Британские власти предупреждают о рисках использования чатботов, управляемых искусственным интеллектом, утверждая, что их можно обманом заставить выполнять вредоносные задачи.

Об этом, как пишет "Европейская правда", заявил Национальный центр кибербезопасности Великобритании (NCSC), сообщает Reuters.

В двух своих публикациях ведомство отмечает, что эксперты еще не разобрались с потенциальными проблемами безопасности, связанными с алгоритмами, которые могут генерировать взаимодействие, похожее на человеческое – так называемыми большими языковыми моделями (LLM).

NCSC отмечает, что использование инструментов на основе искусственного интеллекта, в частности в работе по обслуживанию клиентов и звонками по продажам, может нести риски, особенно если такие модели будут подключены к другим элементам бизнес-процессов.

Ученые и исследователи неоднократно находили способы манипулировать чатботами, давая им несанкционированные команды или обманывая их, чтобы они обходили встроенные в них защитные механизмы.

Например, чатбот на базе искусственного интеллекта, который использует банк, можно обманом заставить совершить несанкционированную транзакцию, если хакер правильно структурирует свой запрос.

Влияние искусственного интеллекта на безопасность все еще находится в центре внимания правительств стран по всему миру. В частности, в США и Канаде уже фиксировали использование технологии LLM хакерами.

Ранее заместитель главы британского правительства Оливер Дауден заявил, что искусственный интеллект может оказать более значительное влияние на страну, чем малая промышленная революция.

Глава секретной разведывательной службы Британии МИ6 Ричард Мур перед этим выразил убеждение, что искусственный интеллект не заменит шпионов-людей.

Напомним, Европейская комиссия расширила использование искусственного интеллекта при переводе, впервые разрешив автоматический перевод своих пресс-релизов без человеческого участия.