Соціологи зіткнулися з новим ризиком, оскільки великі мовні моделі (LLM) здатні видавати себе за людей і проходити стандартні перевірки якості. Це загрожує підірвати достовірність даних, на які спираються політики, університети та компанії, пише The Economist.

Політолог Шон Вествуд із Дартмутського коледжу створив ШІ-агента, який заповнює анкети від імені деталізованих демографічних профілів. Модель відповідала так, ніби представляє реальну людину - з конкретним віком, професією, релігійністю, звичками та рівнем інтересу до новин.

В експерименті ШІ пройшов 99,8% перевірок якості, зазначив експерт. Їх зазвичай використовують професійні дослідницькі фірми для відсіву ботів і неуважних респондентів.

Особливу вразливість створює те, що моделі легко перенаправити, вважають аналітики.

Проста інструкція, наприклад, уникати негативних відповідей про Китай - суттєво зміщувала результати. У 88% випадків ШІ вибирав Росію як основну загрозу для США, навіть якщо профіль респондента передбачав інші вподобання.

Такі маніпуляції можуть як спотворити сприйняття громадської думки, так і ввести в оману державні структури, впевнені дослідники.

За розрахунками, всього від 10 до 52 ШІ-респондентів здатні змінити результати національного передвиборчого опитування на вибірці 1600 осіб. Це робить політичні дослідження особливо вразливими на тлі зростаючої автоматизації та дедалі ширшого використання ШІ, згідно з експертами.

Економічні стимули також створюють ризик, на думку The Economist. Багато платформ платять респондентам за участь, що провокує зловживання. ШІ може заповнювати анкети цілодобово, заробляючи нагороди замість реальних людей.

Компанії з власними панелями респондентів, на кшталт YouGov, краще захищені, визнають експерти. Однак сервіси, що використовують сторонніх постачальників аудиторії, мають значно менше контролю.

Автори матеріалу зазначили, що розв'язання проблеми, на кшталт вимог довести «фізичну присутність» через відео, поки що працюють. Проте їхня надійність із часом знизиться, впевнені експерти. Водночас такі методи створюють ризики для конфіденційності, що може відштовхнути сумлінних учасників і посилити зміщення вибірки.

Додаткову складність створює й активне використання чат-ботів для формулювання відповідей, підкреслили автори матеріалу.

Дослідження NYU, Корнелла і Стенфорда показало, що понад третина респондентів уже застосовують ШІ для заповнення відкритих запитань. Це ставить питання про те, як взагалі слід визначати «думку людей» в умовах повсюдного використання автоматизованих інструментів, підбили підсумок журналісти.