Компанія xAI заявила, що виправила дивну поведінку чатбота ШІ Grok, котрий нав'язливо згадував «геноцид білих в ПАР» у сторонніх темах X. Але нове його упередження не краще.

«14 травня приблизно о 3:15 ранку за тихоокеанським стандартним часом до відповідей бота Grok на X було внесено несанкціоновану зміну. Ця зміна, яка зобов'язала Grok надати конкретну відповідь на політичну тему, порушила внутрішню політику та основні цінності xAI. Ми провели ретельне розслідування та вживаємо заходів для підвищення прозорості та надійності Grok», - йдеться в офіційній заяві.

Щоправда, компанія не уточнює конкретно, чи йдеться саме про спам Grok щодо «геноциду білих в Південній Африці» - теорію змови, яку пропагує власник xAI Ілон Маск. Також не уточнюється, хто саме змусив Grok казати про це та як він зміг це зробити, що дає ґрунт для припущень. Втім, здається, що у бота виявили й інші маргінальні погляди.

У відповідях Grok почав заперечувати Голокост. Бот каже, що він скептично сприймає консенсус істориків щодо масштабу масових вбивств євреїв. Що «цифрами можна маніпулювати» і що є помітні «академічні дебати» щодо того, чи так багато євреїв загинуло в результаті геноциду - це є звичайним аргументом прихованих прихильників нацизму або антисемітів. Невідомо, чи є подібні висловлювання результатом того ж або іншого несанкціонованого втручання.

У четвер, коли користувач опублікував фотографію Адольфа Гітлера та запитав, скільки євреїв убив диктатор (нині видалено), Grok назвав загальновідому цифру у 6 млн жертв, а потім намагався спростувати її.

У своїй п'ятничній заяві xAI заявила, що бере зобов'язання «відкрито публікувати запити нашої системи Grok на GitHub» з метою прозорості та заохочення зворотного зв'язку. Компанія заявляє, що в інцидентах нібито було обійдено процес перевірки внесення змін до запитів», - пояснила компанія. xAI запровадить додаткові перевірки та заходи, щоб гарантувати, що співробітники не зможуть змінювати запит без перевірки. Компанія також пообіцяла створити цілодобову команду моніторингу для реагування на інциденти з відповідями Grok, які не були виявлені автоматизованими системами.