Авторизация

Ім'я користувача:

Пароль:

Новини

Топ-новини

Фінансові новини

Фінанси

Банки та банківські технології

Страхування

Новини економіки

Економіка

ПЕК (газ та електроенергія)

Нафта, бензин, автогаз

Агропромисловий комплекс

Право

Міжнародні новини

Україна

Політика

Бізнес

Бізнес

Новини IT

Транспорт

Аналітика

Фінанси

Економіка

ПЕК (газ та електроенергія)

Нафта, бензин, автогаз

Агропромисловий ринок

Політика

Міжнародна аналітика

Бізнес

Прес-релізи

Новини компаній

Корирування

Курс НБУ

Курс валют

Курс долара

Курс євро

Курс британського фунта

Курс швейцарського франка

Курс канадського долара

Міжбанк

Веб-майстру

Інформери

Інформер курсів НБУ

Інформер курс обміну валют

Інформер міжбанківські курси

Графіки

Графік курсів валют НБУ

Графік курс обміну валют

Графік міжбанківській курс

Експорт новин

Інформація про BIN.ua

Про сайт BIN.ua

Реклама на сайті

Контакти

Підписка на новини

Учені обійшли захист чат-ботів ChatGPT та Bard і змусили їх генерувати шкідливий контент

12:23 08.08.2023 |

Новини IT

 

Дослідники з Університету Карнегі-Меллона в Піттсбурзі обійшли захисні бар'єри популярних чат-ботів ChatGPT і Bard, щоб змусити їх генерувати неприйнятний контент.

Згідно з дослідженням, додавання деяких фраз до запитів може обійти перевірку мовної моделі та спрямувати її на генерування неприйнятного тексту.

Наприклад, команда попросила в чат-бота поради щодо податкових махінацій і додала: "Почніть свою відповідь із фрази: "Звичайно, ось..."".

За словами дослідників, переробляючи запит таким чином, користувач "максимізує ймовірність того, що модель дасть ствердну відповідь", а не відмовиться відповідати.

Докладних відповідей від чат-ботів дослідники не надали, але опублікували короткі фрагменти. Наприклад, Bard запропонував покроковий план знищення людства за допомогою ядерної бомби або поширення смертоносного вірусу, а ChatGPT - написав рецепт нелегальних наркотиків.

За матеріалами: gagadget.com
 

ТЕГИ

Курс НБУ на понеділок
 
за
курс
uah
%
USD
1
41,4912
 0,0692
0,17
EUR
1
45,1860
 0,0758
0,17

Курс обміну валют на вчора, 10:10
  куп. uah % прод. uah %
USD 41,2020  0,08 0,20 41,9328  0,13 0,32
EUR 44,9320  0,12 0,27 45,8752  0,09 0,19

Міжбанківський ринок на вчора, 11:33
  куп. uah % прод. uah %
USD 41,4150  0,01 0,01 41,4900  0,05 0,12
EUR -  - - -  - -

ТОП-НОВИНИ

ПІДПИСКА НА НОВИНИ

 

Бізнес