Авторизация

Ім'я користувача:

Пароль:

Новини

Топ-новини

Фінансові новини

Фінанси

Банки та банківські технології

Страхування

Новини економіки

Економіка

ПЕК (газ та електроенергія)

Нафта, бензин, автогаз

Агропромисловий комплекс

Право

Міжнародні новини

Україна

Політика

Бізнес

Бізнес

Новини IT

Транспорт

Аналітика

Фінанси

Економіка

ПЕК (газ та електроенергія)

Нафта, бензин, автогаз

Агропромисловий ринок

Політика

Міжнародна аналітика

Бізнес

Прес-релізи

Новини компаній

Корирування

Курс НБУ

Курс валют

Курс долара

Курс євро

Курс британського фунта

Курс швейцарського франка

Курс канадського долара

Міжбанк

Веб-майстру

Інформери

Інформер курсів НБУ

Інформер курс обміну валют

Інформер міжбанківські курси

Графіки

Графік курсів валют НБУ

Графік курс обміну валют

Графік міжбанківській курс

Експорт новин

Інформація про BIN.ua

Про сайт BIN.ua

Реклама на сайті

Контакти

Підписка на новини

Штучний інтелект не становить загрози людству, бо не може самостійно навчатися

23:54 16.08.2024 |

Новини IT

 

Штучний інтелект не раз показували як загрозу всьому людству, як-от у випадку з повстанням Skynet у франшизі "Термінатор" / Terminator. Проте нове дослідження стверджує, що зараз такої загрози немає. За словами української професорки комп'ютерних наук Ірини Гуревич, яка керувала дослідженням, зараз більше треба перейматися тим, як штучний інтелект використовують. Про це повідомляє Neuroscience News.

Спільне дослідження Університету Бата та Технічного університету Дармштадта в Німеччині, яке опублікували у межах 62-ї щорічної зустрічі Асоціації комп'ютерної лінгвістики (ACL 2024), провідної міжнародної конференції з обробки природної мови, показує, що великим мовним моделям (LLM) бракує можливості самостійного навчання. LLM можуть виконувати інструкції та поставленні задачі, але самі щось нове вивчити вони нездатні.

Дослідники дійшли до висновку, що LLM у тому стані, в якому вони є зараз, можна випускати без занепокоєнь щодо безпеки. Єдина загроза, яку може нести штучний інтелект, полягає у зловмисному застосуванні реальними людьми.

У межах дослідження проводили експеримент, у якому перевіряли можливість ШІ виконувати важкі задачі, які ці моделі раніше ніколи не виконували. Результатом стало те, що штучний інтелект зміг відповісти на запитання про соціальні ситуації, не бувши спеціально навченими чи запрограмованими для цього. Однак дослідники кажуть, що ШІ не знає про ці ситуації, натомість він використовує контекстуальне навчання на основі кількох прикладів, які йому представляли.

"Побоювання полягало у тому, що в міру того, як моделі стають все більшими й більшими, вони зможуть розв'язувати нові проблеми, які ми не можемо передбачити, що створює загрозу того, що ці більші моделі можуть набути небезпечних здібностей, включаючи міркування і планування. Це викликало багато дискусій - наприклад, на Саміті з безпеки ШІ минулого року в Блетчлі-Парку, де нас попросили прокоментувати, - але наше дослідження показує, що побоювання, що модель піде і зробить щось абсолютно несподіване, інноваційне і потенційно небезпечне, не є обґрунтованими", - сказав доктор Харіш Тайяр Мадабуші, комп'ютерний науковець з Університету Бата і співавтор нового дослідження.

Ще одним висновком дослідників стало те, що намагатися використати штучний інтелект для виконання складних завдань, які вимагають складних міркувань без чітких інструкцій, буде помилкою. Натомість якщо користувачі хочуть отримати найкращий результат, вони повинні якомога ширше та з усіма подробицями розписувати поставлену задачу.

Ірина Гуревич каже, що замість того, щоб переживати за те, що штучний інтелект буде становити загрозу, треба переживати через його зловмисне використання.

"Наші результати не означають, що ШІ взагалі не є загрозою. Скоріше, ми показуємо, що передбачувана поява складних навичок мислення, пов'язаних з конкретними загрозами, не підтверджується доказами, і що ми можемо дуже добре контролювати процес навчання LLM у підсумку. Тому майбутні дослідження повинні зосередитися на інших ризиках, які несуть у собі моделі, наприклад, на їхньому потенціалі для створення фейкових новин", - розповіла Гуревич.

За матеріалами: mezha.media
 

ТЕГИ

Курс НБУ на понеділок
 
за
курс
uah
%
USD
1
41,1859
 0,0343
0,08
EUR
1
45,4322
 0,0914
0,20

Курс обміну валют на вчора, 10:56
  куп. uah % прод. uah %
USD 40,9172  0,05 0,11 41,5144  0,03 0,08
EUR 45,2912  0,13 0,30 45,9936  0,12 0,26

Міжбанківський ринок на вчора, 11:33
  куп. uah % прод. uah %
USD 41,2000  0,04 0,11 41,2150  0,03 0,08
EUR -  - - -  - -

ТОП-НОВИНИ

ПІДПИСКА НА НОВИНИ

 

Бізнес