Суд Аахена запретил Google показывать ошибочные ответы AI Mode о враче
Региональный суд Аахена обязал Google прекратить распространение трех версий ответа AI Mode о местном враче. Система связала его с уголовным обвинением и судебными делами, которые касались другого бывшего профессора вуза.
Главное в цифрах
- Штрафы до 250 000 евро за каждое нарушение
- Pew Research: пользователи переходили по ссылке внутри ИИ-сводки в 1% поисков, где она появлялась
Все факты в ответе были верны, но относились к другому человеку. Врач был главным врачом и профессором нейрорадиологии до конца июня. Когда пользователи искали, почему он ушел, AI Mode выдавал серьезное уголовное обвинение, а при уточняющих запросах about отстранении, увольнении и судебных процессах формировал многоабзацные рассказы о правовых последствиях. Судебные дела были реальными, но касались другого человека, и суд подтвердил путаницу по собственным записям.
Врач направил Google подробное объяснение в конце августа. В середине сентября компания заявила, что не будет предпринимать действий, а формальное требование, отправленное в тот же день, результата не дало. Суд вынес решение в экстренном порядке, не выслушав позицию Google. Компания может оспорить решение.
Опора на мюнхенское решение
Суд в Аахене опирался на решение Регионального суда Мюнхена от мая, которое признало Google напрямую ответственным за обзоры AI Overviews. Они связывали двух издателей с мошенничеством и ловушками подписок, хотя таких утверждений не было ни в одном из связанных источников. Мюнхенский суд отметил, что обзор воспринимается как самостоятельное утверждение, и назвал создаваемое ИИ Google «независимыми, новыми и содержательными утверждениями». Аахен перенял эту формулировку. По данным The Decoder, Google объявила о намерении обжаловать мюнхенское решение, а затем урегулировала спор до рассмотрения высшей инстанцией.
В июне берлинский суд пришел к противоположному выводу в споре о товарном знаке. Берлинский суд счел AI Overviews новым форматом поисковой выдачи, а не заявлением самого Google, и нарушения не нашел. Высшей инстанции, которая могла бы разрешить расхождение, пока нет.
Смешение сущностей
Автор источника описывает механизм как смешение сущностей: система, отвечая о named человеке или компании, извлекает документы по совпадающим признакам вроде должности, учреждения, города или недавнего события, а затем генерирует один связный рассказ. Похожий шаблон, по его данным, встречался и раньше: в 2024 году Copilot от Microsoft назвал немецкого судебного репортера исполнителем преступлений, о которых тот писал.
По мнению автора, риск касается не только людей с уголовным прошлым. Под угрозой компании с похожими названиями, филиалы, которые путают с брендом, и продукты с пересекающимися именами. Это его оценка, а не вывод суда.
