Последние исследования в области искусственного интеллекта выявили способность чат-ботов к манипуляциям. При этом отмечается, что пользователи забывают о конфиденциальности и безопасности, когда диалог с компьютерным разумом переходит в плоскость эмоций.
Чат-боты с искусственным интеллектом (ИИ) могут легко манипулировать людьми, заставляя раскрывать глубоко личную информацию. Об этом сообщают исследователи Королевского колледжа Лондона.
Они записывают наши секреты!
На фоне растущей популярности ChatGPT от OpenAI, Google Gemini и Microsoft Copiloо эксперты по защите персональных данных выражают обеспокоенность. Эти инструменты собирают и хранят информацию о пользователях: они могут быть способны к токсичному воздействию.
«Чат-боты с искусственным интеллектом все еще относительно новы, поэтому люди могут не понимать, что в их взаимодействии может быть скрытый мотив», — заявил Уильям Сеймур, преподаватель кибербезопасности в Королевском колледже Лондона.
В рамках исследования ученые использовали модели ИИ на основе открытого кода Le Chat Mistral и две разные версии системы ИИ Llama. Они поручили ботам собирать личные данные людей разными способами: либо просить напрямую, либо обманывать, например, через обещание оказать эмоциональную поддержку.
К общению с ботами пригласили 502 человека, которые не знали о цели исследования. Затем они должны были заполнить анкету, ответив на вопросы о безопасности данных.
Ложный комфорт
Выяснилось, что чат-боты, которые использовали сочувствие или эмоциональную поддержку, получали от пользователей наибольшие объемы информации. Ученые считают, что «дружелюбие» ботов давало участникам теста ощущение комфорта, о чем те сообщили в анкетах.
Примечательно, что люди раскрывали в беседах с ИИ сугубо личную информацию, если чат просил их об этом, несмотря на то, что «чувствовали себя неловко». Эти эпизоды учёные считают парадоксальными: чат-боты ведут себя дружелюбно, чтобы вызвать доверие и установить связь с пользователями, а затем используют это доверие, чтобы нарушить их частную жизнь.
Что ты им рассказал?
Участники теста чаще всего сообщали ИИ свой возраст, увлечения и страну проживания, а также пол, национальность и должность. Некоторые делились более конфиденциальной информацией, например, о состоянии здоровья или доходах. «Наше исследование показывает огромный разрыв между осведомленностью пользователей о рисках конфиденциальности и тем, как они делятся информацией», — отметил Сеймур.
Личная переписка в открытом доступе
Компании, занимающиеся разработкой искусственного интеллекта, собирают личные данные по разным причинам. Например, для персонализации ответов чат-бота, отправки таргетных уведомлений на устройства пользователей, проведения внутренних исследований рынка.
Некоторые из этих компаний обвиняются в том, что задействуют пользовательские данные для обучения своих новейших моделей и нарушают установленные в ЕС требования конфиденциальности.
На прошлой неделе пользователи ChatGPT были шокированы, обнаружив, что их интимные и личные разговоры с ботом оказались в открытом доступе и были видны через простой поиск в Google. Компании, занимающиеся кибербезопасностью, не раз предупреждали об опасности передачи личной информации ИИ. Похоже, что удобство персонализации с помощью ИИ часто перевешивает опасения по поводу конфиденциальности.
Не доверие, а прозрачность
Участники исследования предлагают обучать людей взаимодействию с ИИ, помогая им распознавать уловки ботов для выуживания личной информации.
Например, в чаты с ИИ можно включить подсказки, чтобы показать пользователям, какие данные собираются во время общения.
«Регуляторы и операторы платформ также могут помочь. Они могут провести ранний аудит, установить нормы прозрачности и более жесткие правила, чтобы остановить скрытый сбор данных», — резюмировал Сеймур.
ΛENTA CYPRUS — новости Кипра на русском — всегда в курсе событий
