Риски мошенничества с ИИ в благотворительности

Риски фейковой благотворительности: Введение

С развитием технологий искусственного интеллекта (ИИ) возрастают и риски использования этих технологий в мошеннических целях. В России и за рубежом эксперты предупреждают о возникающих угрозах фейковой благотворительности, где ИИ используется для обмана добросердечных людей.

Недавние исследования и опросы показали, что мошенники всё чаще задействуют ИИ для сбора средств под видом благотворительности. Эта проблема становится всё более актуальной в мире, где технологии быстро развиваются, а регулирование не поспевает за инновациями.

Технологии на службе мошенников

ИИ-агенты — это программы, способные автономно выполнять задачи, используя машинное обучение и искусственный интеллект. В благотворительной сфере такие агенты могут создавать трогательный контент, генерировать персонализированные сообщения и вести переговоры с потенциальными жертвами.

Эксперимент, проведенный американской некоммерческой организацией Sage, показал, что ИИ-агенты могут эффективно собирать пожертвования. В рамках этого эксперимента четыре ИИ-агента за месяц собрали $2 тыс. для благотворительных организаций, работая автономно по два часа в день.

Однако эксперты подчеркивают, что без вмешательства человека и направленных указаний, ИИ-агенты не смогли бы достичь таких результатов. Именно поэтому они считают, что опасность кроется не только в самих технологиях, но и в возможностях злоумышленников использовать их для обмана.

Прогнозы на будущее и текущие риски

Руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров прогнозирует, что риски мошенничества с ИИ-агентами в России будут расти с увеличением их внедрения в разные бизнес-процессы. В частности, вторая половина 2025 — начало 2026 года станет пиком такого рода мошенничества из-за доступности технологий создания ИИ-агентов и роста числа нерегулируемых секторов.

ИИ-агенты могут атаковать тысячи пользователей одновременно, генерируя персонализированные сообщения и располагая к себе целевую аудиторию. Наиболее уязвимыми становятся люди, находящиеся в эмоционально трудном состоянии, например, одинокие и переживающие сложные периоды своей жизни.

Кроме того, злоумышленники могут использовать ИИ-агенты для создания дипфейков — реалистичных, но фальшивых аудио- и видеоматериалов, которые могут включать образы якобы больных животных или детей, нуждающихся в помощи.

Потенциальные решения и меры предосторожности

Для борьбы с фейковой благотворительностью и другими видами мошенничества с использованием ИИ, важно соблюдать ряд мер предосторожности:

• Тщательная проверка организаций, предлагающих благотворительные пожертвования, с помощью официальных источников.
• Регулирование и контроль над использованием ИИ в финансовых и благотворительных операциях.
• Разработка антифишинговых методов и систем защиты для предотвращения автономных атак ИИ-агентов.
• Обучение пользователей распознавать подозрительные электронные письма и сообщения.

Эксперты также рекомендуют использовать многофакторную аутентификацию и другие методы защиты персональных данных и финансовых операций.

Законодательная база

• Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных»
• Федеральный закон от 7.02.1992 № 2300-1 «О защите прав потребителей»
• Федеральный закон от 27.12.2019 № 453-ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации по вопросам обеспечения информационной безопасности»

Безопасность и доверие в благотворительности: Заключение

В условиях роста использования ИИ-технологий в различных сферах, включая благотворительность, крайне важно развивать компетенции в области кибербезопасности и защищать граждан от мошеннических действий. Применение ИИ в благотворительности должно базироваться на строгих принципах этики и ответственности, чтобы исключить возможность злоупотреблений и сохранить доверие населения.

Следует помнить, что перед отправкой пожертвований всегда необходимо проверять информацию на официальных сайтах благотворительных фондов и убеждаться в подлинности собираемых средств.