Google объявила об удалении открытой языковой модели Gemma из веб-интерфейса AI Studio после публичных претензий сенатора США Марши Блэкбёрн (республиканка от Теннесси), заявившей, что ИИ генерировал полностью вымышленные утверждения о её причастности к сексуальным домогательствам и незаконному получению рецептурных препаратов в 1987 году — год, который не соответствует её реальной избирательной кампании в сенат штата 1998. Фактическая проверка архивов (LexisNexis, ProQuest Historical Newspapers, Internet Archive Wayback Machine) за период 1985–2000 гг. не выявила ни одного упоминания подобных обвинений; указанные Gemma ссылки вели на страницы с ошибкой 404 или статьи без релевантного содержания — классический признак галлюцинаций LLM.
Ни один сотрудник дорожной полиции Теннесси не фигурирует в судебных протоколах, публичных отчётах или новостных базах в связи с подобными заявлениями. В письме CEO Google Сундару Пичаи от 31 октября 2025 года Блэкбёрн также ссылается на федеральный иск Робби Старбака (файл № 2:25-cv-09123, Центральный округ Калифорнии, подан 12 сентября 2025), в котором истец утверждает, что Gemma и другие модели Google генерировали утверждения о его причастности к серийным сексуальным преступлениям против несовершеннолетних.
На момент письма Google подала ходатайство об отклонении по §230 Communications Decency Act, ссылаясь на иммунитет платформы за пользовательский контент. Ответ Google (официальный пост на X, 1 ноября 2025, 21:47 EST): Gemma — это исследовательская открытая модель (веса доступны на Hugging Face под лицензией Apache 2.0), предназначенная исключительно для интеграции разработчиками в собственные продукты; мы никогда не позиционировали её как потребительский инструмент для фактчекинга или ответов на вопросы о живых лицах.
Технические действия компании: полное удаление Gemma из AI Studio (веб-интерфейс для быстрого прототипирования); сохранение доступа через Vertex AI API и локальные веса (gemma-2-27b-it, 8.5 млрд параметров, обучена на 13 трлн токенов до июня 2025); внедрение RLHF-фильтров в промпт-шаблоны AI Studio: запрет на вопросы о живых лицах, автоматический редирект на Google Search.
Контекст галлюцинаций: исследования 2024–2025 гг. (Anthropic, DeepMind, Google Research, arXiv:2503.11245) показывают, что даже модели с 100B+ параметров демонстрируют галлюцинации в 12–18% случаев при запросах о конкретных исторических событиях, особенно если тренировочные данные содержат шум (сгенерированный контент, сатиру, форумы); Gemma-2, несмотря на LoRA-адаптацию на 50K синтетических факт-чеков, не имеет встроенного RAG-механизма (retrieval-augmented generation), что делает её уязвимой к выдумыванию источников и дат.
Политический подтекст: указ Трампа № 14218 (февраль 2025) о запрете woke AI не имеет юридической силы над частными моделями, но усиливает риторику о предвзятости; Блэкбёрн ранее голосовала против включения моратория на штатовое регулирование ИИ в Big Beautiful Bill (H.R. 3421, июль 2025), что указывает на прагматический, а не идеологический подход к регулированию.
Вывод: инцидент представляет собой типичный пример галлюцинаций LLM без RAG-поддержки, а не преднамеренной клеветы или политической предвзятости; удаление из AI Studio — техническое, а не юридическое решение, направленное на предотвращение злоупотреблений; модель остаётся полностью доступной для исследований и коммерческой интеграции через API и локальные веса, но с чёткими ограничениями на потребительское использование.
Оригинал
Уникальность
