Специалисты агентства выяснили, что злоумышленники могут воспользоваться ChatGPT для «существенного ускорения поисков» в отраслях, о которых они ничего не знают.
В полиции Европола предупредили о потенциальной возможности злоупотребления чат-ботом ChatGPT на основе искусственного интеллекта путём его использования для осуществления попыток фишинга, распространения дезинформации и совершения киберпреступлений. Европол говорит, что это усиливает прочие факторы беспокойства, начиная от юридических вопросов и заканчивая вопросами этического характера.
По мнению экспертов, наибольшую обеспокоенность вызывает возможность использования ChatGPT в следующих криминальных сферах:
- Мошенничество и социальная инженерия: Возможность создания чрезвычайно реалистичных текстов делает ChatGPT полезным инструментом для нужд фишинга. Он может быть использован для имитации стиля речи определённых лиц или групп лиц. Данной особенностью можно злоупотреблять в больших масштабах, заставляя потенциальных жертв довериться преступникам.
- Дезинформация: Возможность создавать аутентичный текст с высокой скоростью и в больших масштабах. Это делает модель идеальным инструментом для достижения целей пропаганды и распространения дезинформации, поскольку она позволяет пользователям создавать и распространять сообщения, отражающие определенный нарратив, прилагая для этого относительно небольшие усилия.
- Киберпреступность: Помимо создания языка, похожего на человеческий, генеративный искусственный интеллект способен создавать код на нескольких языках программирования. Для потенциального преступника с небольшими техническими знаниями это бесценный ресурс для создания вредоносного кода.
«По мере развития технологий и с появлением новых моделей для правоохранительных органов будет иметь всё большую важность необходимость оставаться в авангарде этих инноваций, чтобы предвидеть возможные последствия и предотвращать злоупотребления», – отмечают в Европоле.
Подписывайтесь на Mediasat в Telegram: здесь самые интересные новости из мира технологий
Европол также озвучил свои ключевые рекомендации правоохранительным органам:
- Учитывая потенциальный вред, чрезвычайно важно повысить осведомленность по этому вопросу, чтобы гарантировать максимально быстрое выявление и ликвидацию любых потенциальных лазеек.
- Правоохранительные органы должны понимать влияние ChatGPT на все потенциально уязвимые сферы, чтобы лучше предвидеть, предотвращать и расследовать различные виды злоупотреблений.
- Сотрудникам правоохранительных органов следует начать развивать навыки, необходимые для максимального использования генеративного искусственного интеллекта.
- Очень важным пунктом является взаимодействие со всеми заинтересованными сторонами, которое позволяет убедиться в том, что соответствующие механизмы безопасности остаются ключевым фактором, который постоянно совершенствуется.
- Правоохранительные органы могут изучить возможности настроенного искусственного интеллекта, обученного самостоятельно для более адаптированного и конкретного использования.
Напомним, в декабре прошлого года европейское полицейское агентство Европол заблокировало работу 12 526 доменов, отключило 32 сервера и остановило работу 15 интернет-магазинов.
