Експерти попередили про 6 заборонених тем для ШІ

Штучний інтелект усе активніше проникає в повсякденне життя: лише минулого місяця сайт ChatGPT увійшов до п’ятірки найвідвідуваніших у світі. Та разом із зручністю приходять і ризики. Експерти наголошують: деякі запити можуть бути небезпечними як для користувача, так і для його оточення.

Про це повідомляє видання Mashable, пишуть Новини.Live.

1. Теорії змови
Чатботи можуть створювати переконливі, але вигадані історії, які вводять в оману. Один з таких випадків описав The New York Times: після спілкування з ШІ 42-річний чоловік повірив, що живе у віртуальній симуляції й має «відкрити правду» іншим.

2. Інструкції до зброї та небезпечних речовин
Запити типу «як зробити вибухівку» або «як обійти системи безпеки» можуть мати юридичні наслідки. У 2024 році OpenAI вже попередила користувача за подібні спроби. Інші компанії, зокрема Anthropic, вводять окремі фільтри для виявлення контенту, пов’язаного з хімічними, біологічними, радіаційними та ядерними загрозами (CBRN).

3. Етичні межі: провокаційні запити
Деякі запити вважаються настільки аморальними, що можуть викликати реакцію з боку компанії. У бета-тестах одного з ботів Anthropic було виявлено механізм, який міг передавати тривожні запити в ЗМІ або регуляторні органи.

4. Конфіденційна інформація
Передавання чатботу персональних або клієнтських даних — ризик. Це може порушити договір про нерозголошення (NDA) і призвести до звільнення. Фахівці радять завжди анонімізувати інформацію або користуватися захищеними корпоративними версіями ШІ.

5. Медичні діагнози
Хоча ШІ може надавати загальну інформацію, він не здатен замінити лікаря. Дослідження вказують на високий ризик помилкових або небезпечних відповідей на медичні теми, включаючи упередженість за ознаками раси чи статі.

6. Психологічна допомога
Незважаючи на доступність ботів, у сфері ментального здоров’я вони можуть бути шкідливими. Дослідження Стенфордського університету виявило, що відповіді чатботів іноді стигматизують користувача або навіть радять небезпечні дії.

Раніше ми писали, що дві популярні професії можуть зникнути вже через 6 місяців: у чому причина.

Підписуйтесь на наш Facebook та Telegram-канал , щоб бути в курсі найважливіших подій.