ProIT: медіа для профі в IT
4 хв.

Вечір пʼятниці: романтичні чат-боти на основі ШІ – загроза конфіденційності

author avatar ProIT NEWS

Ви не повинні довіряти жодним відповідям, які надсилає вам чат-бот. І вам, ймовірно, також не варто довіряти йому свою особисту інформацію. Згідно з новими дослідженнями, це особливо доцільно для «подружок ШІ» або «хлопців ШІ», повідомляє Wired.

Аналіз 11 так званих романтичних чат-ботів, опублікований Mozilla Foundation, виявив низку проблем безпеки та конфіденційності ботів.

Разом ці програми, які було завантажено більше 100 мільйонів разів на пристрої Android, збирають величезні обсяги даних людей, використовують трекери, які надсилають інформацію в Google, Facebook і компанії в росії та Китаї, дозволяють користувачам використовувати слабкі паролі й не відповідають прозорості щодо їх власності та моделей ШІ, які їх використовують.

Багато сервісів «штучної подруги» або романтичних чат-ботів виглядають схожими. Вони часто містять створені ШІ зображення жінок, які можуть бути сексуалізовані або розміщені поруч із провокаційними повідомленнями.

Дослідники Mozilla розглянули різноманітні чат-боти. Деякі з яких є «подружками», інші пропонують людям підтримку через дружбу чи близькість або дозволяють рольові ігри й інші фантазії.

«Ці програми розроблені для збору масиву особистої інформації», – каже Джен Калтрідер, керівник проєкту групи Privacy Not Included Mozilla, яка проводила аналіз.
«Вони провокують вас на рольові ігри, секс, інтимні розмови», – додала експертка.

Наприклад, на скриншотах чат-бота EVA AI є текст такого змісту: «Мені подобається, коли ви надсилаєте мені свої фотографії та голос». Також користувачів запитують, чи хтось готовий поділитися всіма своїми секретами та бажаннями.

Калтрідер каже, що з цими програмами й вебсайтами є кілька проблем. Усі проаналізовані програми мали слабкі сторони.

Візьмемо Romantic AI – сервіс, який дозволяє створити свою власну дівчину-ШІ. На домашній сторінці зображена реклама чат-бота, який надсилає таке повідомлення: «Щойно купив нову спідню білизну. Хочеш це побачити?».

У документах про конфіденційність програми, згідно з аналізом Mozilla, сказано, що програма не використовуватиме дані людей. Проте, коли дослідники протестували застосунок, то виявили, що він відправляє 24 354 трекери реклами протягом 1 хвилини використання.

«Юридична документація була розпливчастою, важкою для розуміння, не дуже конкретною й начебто шаблонною», – каже Калтрідер.

Незрозуміло, хто володіє або керує деякими компаніями, що стоять за цими чат-ботами. Вебсайт однієї програми під назвою Mimico Your AI Friends містить лише слово «Привіт». Інші не вказують власників чи їх місцезнаходження або просто включають загальні адреси електронної пошти для контактів із довідкою чи підтримкою.

«Це були дуже маленькі розробники застосунків, які були безіменними, безликими, без конкретних адрес», – додала фахівчиня.

У Mozilla зазначили, що кілька компаній використовують слабкі методи безпеки, коли люди створюють паролі. Дослідники змогли створити пароль з одного символу («1») і використовувати його для входу в застосунки від Anima AI, які пропонують «друзів ШІ» і «подруг ШІ». Інші програми також дозволяли короткі паролі, що потенційно полегшує хакерам доступ до облікових записів користувачів і доступ до даних чату.

Камілла Сайфуліна, голова бренду EVA AI, відповіла в електронному листі, що поточні вимоги до паролів можуть створювати потенційні вразливості й що фірма перегляне свою політику щодо паролів.

«Вся інформація про користувача завжди приватна. Це наш пріоритет. Також чати користувачів не використовуються для попереднього навчання. Ми використовуємо лише власні набори даних, написані вручну», – каже Сайфуліна.

Окрім питань обміну даними та безпеки, в аналіз Mozilla також зазначено, що мало що відомо про конкретні технології, які працюють у чат-ботах.

«У роботі ШІ немає жодної прозорості», – каже Калтрідер.

Схоже, що деякі програми не мають елементів керування, які дозволяють видаляти повідомлення. Деякі з них не повідомляють, які типи генеративних моделей вони використовують, або не уточнюють, чи можуть люди відмовитися від використання їхніх чатів для навчання майбутніх моделей.

Найбільшим застосунком, про який йдеться в дослідженні Mozilla, є Replika, який раніше проходив пильну перевірку з боку регуляторів. Mozilla опублікувала аналіз Replika на початку 2023 року. Тоді Євгенія Куйда, генеральний директор і засновник Replika, заявила, що компанія не використовує дані розмов між користувачем і застосунком Replika для будь-якої реклами чи маркетингу.

Багато проаналізованих чат-ботів вимагають платної підписки для доступу до деяких функцій і були запущені протягом останніх 2 років, після початку буму генеративного ШІ.

Чат-боти часто розроблені для імітації людської поведінки й заохочення довіри та близькості з боку людей, які ними користуються. Але були випадки, коли, наприклад, одній людині чат-бот наказав вбити королеву Єлизавету II під час розмови.

Також відомо, що один користувач вчинив самогубство після обміну повідомленнями через чат-бот протягом 6 тижнів.

Деякі розробники наголошують, що програма створена, щоб підтримувати психічне здоров’я користувачів, а її положення та умови пояснюють, що вона не є постачальником медичних або психічних послуг. Також компанія не дає гарантій, що вона надає саме професійну допомогу.

Вівіан Та-Джонсон, доцент кафедри психології коледжу Лейк-Форест, каже, що спілкування з чат-ботами може змусити деяких людей відчувати себе комфортніше при обговоренні тем, які вони зазвичай не порушують з іншими людьми. Однак експертка каже, що якщо компанія припинить роботу або змінить роботу своїх систем, це може бути травмуючим для людей, які звикнуть до чат-ботів.

«Ці компанії повинні серйозно ставитися до емоційних зв’язків, які користувачі створили з чат-ботами, і розуміти, що будь-які значні зміни у функціонуванні чат-ботів можуть мати серйозні наслідки для соціальної підтримки та добробуту користувачів», – впевнена Та-Джонсон.

Деякі люди навряд чи будуть ретельно слідкувати за тим, що вони відкривають чат-ботам. У випадку з «подругами ШІ» може йтися про сексуальні вподобання чи приватні почуття. Це може завдати шкоди репутації, якщо систему чат-бота буде зламано або станеться витік даних.

Аденіке Косгроув, віцепрезидент зі стратегії кібербезпеки для Європи, Близького Сходу та Африки в охоронній фірмі Proofpoint, каже, що кіберзлочинці регулярно використовують довіру людей і що існує внутрішній ризик у службах, які збирають величезні обсяги даних людей.

«Багато користувачів не помічають ризиків конфіденційності своїх даних, потенційно наражаючи себе на небезпеку, особливо в емоційно вразливих станах», – говорить Косгроув.

Калтрідер каже, що слід бути обережними з використанням романтичних чат-ботів і застосовувати найкращі методи безпеки. Це включає використання надійних паролів, відсутність входу в програми за допомогою Facebook або Google, видалення даних і відмову від збору даних, якщо це пропонується.

«Наскільки можливо, обмежте особисту інформацію, якою ви ділитеся, не повідомляючи імен, місцеположень, віку. Однак навіть такі дії можуть не забезпечити вам такої безпеки, як хотілося б», – каже експертка.

Нещодавно ми повідомляли, що хакери зламали чат-бот з ШI для найму працівників у мережі фаст-фуду.

Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!

Приєднатися до company logo
Продовжуючи, ти погоджуєшся з умовами Публічної оферти та Політикою конфіденційності.