Чаты с ИИ-моделями доступны в WebArchive

Исследователь наскрапил ~100 тысяч чатов с ChatGPT, которые пользователи сделали доступными для поисковиков. Так что желающих поделиться с миром беседами c ИИ явно было с запасом.

Тексты NDA, конфиденциальные контракты, инсайты от ChatGPT в личную жизнь, подготовка к коллапсу США — в датасете найдутся окна в мир юзеров на любой вкус. И куча чатов с запросами на генерацию постов для LinkedIn. Помните об этом, когда наткнётесь на очередной бэнгер из корпоративной эхо-камеры на восьмом круге рекрутерского ада. OpenAI на масштабы нечаянной утечки не отреагировала, но сообщают, что работают над тем, чтобы убрать результаты своего маленького эксперимента из поисковиков.

Но результаты-то наскрапили уже все желающие, так что здесь остаётся напомнить, что в общении с LLM’ками нужно соблюдать цифровую гигиену. 100 тысяч юзеров ChatGPT этого не понимали. Не будьте как эти юзеры.

Продолжая тему диалогов с кремниевым другом в открытом доступе. С каждым этапом всё веселее: на Webarchive обнаружили больше 130 тысяч чатов с LLM’ками. На этот раз среди проиндексированных Claude, Grok, Copilot и другие модели.

А где засветились чаты с Copilot, там нашлись и API-ключи. И прочая информация, потенциально полезная для злоумышленников. И, конечно же, не обошлось без скрапинга всего этого добра — вытащили банальными запросами по API архива. И теперь, например, по датасету можно искать разное конфиденциальное, пригодное для атак.

Разработчики моделей комментировать индексацию не спешат, но в целом реакция будет понятной: юзеры сами давали разрешение на шару, а что там дальше залетело в поисковики и архивы — это уже их проблемы. Бонусом Claude сдал и имена юзеров — в выдаче по чатам “full name”. Что-то подсказывает, в будущем масштабы таких утечек будут только расти и шириться. Болтун — находка для ИИ-модели!