Авторизация

Ім'я користувача:

Пароль:

Новини

Топ-новини

Фінансові новини

Фінанси

Банки та банківські технології

Страхування

Новини економіки

Економіка

ПЕК (газ та електроенергія)

Нафта, бензин, автогаз

Агропромисловий комплекс

Право

Міжнародні новини

Україна

Політика

Бізнес

Бізнес

Новини IT

Транспорт

Аналітика

Фінанси

Економіка

ПЕК (газ та електроенергія)

Нафта, бензин, автогаз

Агропромисловий ринок

Політика

Міжнародна аналітика

Бізнес

Прес-релізи

Новини компаній

Корирування

Курс НБУ

Курс валют

Курс долара

Курс євро

Курс британського фунта

Курс швейцарського франка

Курс канадського долара

Міжбанк

Веб-майстру

Інформери

Інформер курсів НБУ

Інформер курс обміну валют

Інформер міжбанківські курси

Графіки

Графік курсів валют НБУ

Графік курс обміну валют

Графік міжбанківській курс

Експорт новин

Інформація про BIN.ua

Про сайт BIN.ua

Реклама на сайті

Контакти

Підписка на новини

Галюцинації ШІ загрожують науковій достовірності - дослідження

12:48 22.11.2023 |

Новини IT

 

Здатність великих мовних моделей (LLM) генерувати неправдивий, але переконливий контент являє собою пряму загрозу науці та науковій істині. Про це йдеться в дослідженні Оксфордського інституту Інтернету.

Особливість генеративного ШІ "вигадувати" інформацію називають галюцинаціями. Навчені на даних з інтернету LLM не можуть гарантувати достовірності відповідей, вважають дослідники.

Набори даних можуть містити помилкові твердження, думки та неточну інформацію. Крім цього, надмірна довіра людей до чат-ботів може посилити проблему.

Співавтор дослідження Брент Міттельштадт (Brent Mittelstadt) зазначив, що користувачі антропоморфізують LLM, сприймаючи їхні відповіді як істину. Частково цьому сприяє інтерфейс чат-ботів, які спілкуються з людьми і відповідають на, здавалося б, будь-яке питання впевнено звучним, добре написаним текстом.

У науці особливо важливо спиратися на достовірні дані. Щоб уникнути галюцинацій ШІ, вчені рекомендують використовувати LLM як "перекладача з нульовим результатом". Це означає, що користувачі повинні надавати алгоритму відповідні дані та просити перетворити їх, а не покладатися на модель, як на джерело знань.

Таким чином, стає простіше перевірити коректність результату.

Вчені не заперечують, що LLM допоможуть в організації наукового процесу. Однак вони закликали спільноту відповідальніше підходити до використання ШІ.

За матеріалами: gagadget.com
 

ТЕГИ

Курс НБУ на завтра
 
за
курс
uah
%
USD
1
38,1575
 0,1083
0,28
EUR
1
41,2635
 0,0600
0,15

Курс обміну валют на 01.03.24, 10:43
  куп. uah % прод. uah %
USD 37,9423  0,12 0,32 38,4815  0,12 0,32
EUR 41,0765  0,18 0,44 41,8588  0,14 0,32

Міжбанківський ринок на 01.03.24, 11:35
  куп. uah % прод. uah %
USD 38,1050  0,13 0,33 38,1350  0,11 0,30
EUR -  - - -  - -

ТОП-НОВИНИ

ПІДПИСКА НА НОВИНИ

 

Бізнес