С развитием технологий искусственного интеллекта (ИИ) возрастают и риски использования этих технологий в мошеннических целях. В России и за рубежом эксперты предупреждают о возникающих угрозах фейковой благотворительности, где ИИ используется для обмана добросердечных людей.
Недавние исследования и опросы показали, что мошенники всё чаще задействуют ИИ для сбора средств под видом благотворительности. Эта проблема становится всё более актуальной в мире, где технологии быстро развиваются, а регулирование не поспевает за инновациями.
ИИ-агенты — это программы, способные автономно выполнять задачи, используя машинное обучение и искусственный интеллект. В благотворительной сфере такие агенты могут создавать трогательный контент, генерировать персонализированные сообщения и вести переговоры с потенциальными жертвами.
Эксперимент, проведенный американской некоммерческой организацией Sage, показал, что ИИ-агенты могут эффективно собирать пожертвования. В рамках этого эксперимента четыре ИИ-агента за месяц собрали $2 тыс. для благотворительных организаций, работая автономно по два часа в день.
Однако эксперты подчеркивают, что без вмешательства человека и направленных указаний, ИИ-агенты не смогли бы достичь таких результатов. Именно поэтому они считают, что опасность кроется не только в самих технологиях, но и в возможностях злоумышленников использовать их для обмана.
Руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров прогнозирует, что риски мошенничества с ИИ-агентами в России будут расти с увеличением их внедрения в разные бизнес-процессы. В частности, вторая половина 2025 — начало 2026 года станет пиком такого рода мошенничества из-за доступности технологий создания ИИ-агентов и роста числа нерегулируемых секторов.
ИИ-агенты могут атаковать тысячи пользователей одновременно, генерируя персонализированные сообщения и располагая к себе целевую аудиторию. Наиболее уязвимыми становятся люди, находящиеся в эмоционально трудном состоянии, например, одинокие и переживающие сложные периоды своей жизни.
Кроме того, злоумышленники могут использовать ИИ-агенты для создания дипфейков — реалистичных, но фальшивых аудио- и видеоматериалов, которые могут включать образы якобы больных животных или детей, нуждающихся в помощи.
Для борьбы с фейковой благотворительностью и другими видами мошенничества с использованием ИИ, важно соблюдать ряд мер предосторожности:
Эксперты также рекомендуют использовать многофакторную аутентификацию и другие методы защиты персональных данных и финансовых операций.
В условиях роста использования ИИ-технологий в различных сферах, включая благотворительность, крайне важно развивать компетенции в области кибербезопасности и защищать граждан от мошеннических действий. Применение ИИ в благотворительности должно базироваться на строгих принципах этики и ответственности, чтобы исключить возможность злоупотреблений и сохранить доверие населения.
Следует помнить, что перед отправкой пожертвований всегда необходимо проверять информацию на официальных сайтах благотворительных фондов и убеждаться в подлинности собираемых средств.
Небольшие компании и интернет-магазины рано или поздно сталкиваются с нехваткой места для товара. Держать склад…
Когда у компании нет средств для выплаты долгов кредиторам, возможно привлечение к материальной ответственности ее…
Как проверить ИП или самозанятого перед сделкой Индивидуальный предприниматель отвечает по обязательствам всем своим имуществом,…
Редакция сравнила 20 московских специалистов по квалификации, узкой специализации, независимым отзывам, возможностям клиники, прозрачности приёма…
Почему обычного договора с фрилансером может быть недостаточно Типовой договор с фрилансером решает конкретную задачу:…
Мы сравнили 12 стоматологических клиник Санкт-Петербурга по единой редакционной 100-балльной модели. В ней учитываются рейтинги…