Німецький суд постановив, що Google несе пряму відповідальність за неправдиву інформацію, яку поширює сервіс AI Overview - частина пошукової системи, яка генерує короткі ШІ-відповіді на запити. Про це пише The Decoder із посиланням на рішення суду.

Рішення цікаве тим, що законодавство Німеччини зазвичай захищає пошукові системи від відповідальності за сторонній контент, однак на огляди штучного інтелекту цей захист, схоже, не поширюється. Суд класифікував Google як безпосереднього порушника, оскільки AI Overview є "власним контентом компанії", а не просто переліком результатів пошуку.

Причиною судового розгляду слугували неправдиві твердження, які алгоритм AI Overview поширив про двох мюнхенських видавців. За окремими пошуковими запитами їх пов'язували із шахрайством, нав'язливими підписками та сумнівними бізнес-практиками. Виявилось, що штучний інтелект змішав інформацію про різні компанії й створив зв'язки, підтвердження яких не знайшлось ані у відображених джерелах, ані в реальності.

Видавці надіслали Google вимогу припинити поширення недостовірної інформації, однак, за їхніми словами, там належним чином не відреагували. Нині суд тимчасово заборонив компанії поширювати неправдиві відомості про них.

На слуханні представники Google заявили, що система дозволяє самостійно перевірити посилання на джерела, щоб переконатися, що короткий виклад ШІ є правильним. До того ж користувачі нібито знають, що "згенерованій інформації не слід сліпо довіряти".

Серйозність проблеми фактичних помилок в AI Overview залежить від того, як оцінювати цифри. Недавнє дослідження показало, що сервіс помиляється приблизно у 9% випадків - похибка допустима, якщо не зважати на масштаби сервісу. AI Overview щомісяця використовують 2 млрд людей, а якщо екстраполювати дані на рік, йдеться про десятки мільярдів взаємодій. До того ж у сервісу є труднощі із видачею посилань на джерела: виявилось, що 56% правильних відповідей неможливо підтвердити за допомогою джерел, на які посилається AI Overview.