Фейкові новини та загрози від штучного інтелекту: історія з DuckDuckGo
Вступ: Чи варто довіряти чатботам?
Нещодавно чатбот DuckDuckGo AI став епіцентром уваги через поширення неправдивої інформації про смерть президента Дональда Трампа та інших політичних постатей. Це викликало занепокоєння щодо точності інформації, яку генерують штучні інтелекти, і необхідності її перевірки перед поширенням.
Фейкові новини в епоху ШІ
За інформацією Cyber News, DuckDuckGo AI стверджував, що Дональд Трамп помер від сказу 7 червня, а його віцепрезидент Джей Ді Венс нібито теж підхопив цю хворобу. Міністр охорони здоров’я Роберт Кеннеді-молодший, за версією чатбота, попередив, що укуси Венса можуть надати суперсили. Подібні заяви підкреслюють просту, але складну проблему: алгоритми не можуть відрізнити жарт від факту.
Виклики при використанні соціальних медіа
На платформі Reddit існує форум r/poisonai, де учасники публікують абсурдні новини про політиків, зокрема Трампа, який нібито змінює стать. Завдяки впливу Reddit, ШІ-системи активно використовують цей контент, не завжди розуміючи його іронію чи сарказм.
Проблема галюцинацій ШІ
Галюцинації ШІ, коли система генерує неправдиву або незрозумілу інформацію, стало широко відомим явищем. Наприклад, дослідники компанії GPTZero виявили так звані «vibe citations», коли великі бренди, як-от Ernst & Young, посилалися на наукові дослідження з грубими помилками, що створюються ШІ.
Наслідки неправильних інформаційних посилань
У травні чатбот Grok, розроблений Ілоном Маском, описав смерть як «метелика, що залишає мушлю», продемонструвавши специфічний підхід до складних тем. Компанія Google також стикалася з проблемами, коли їх AI Overviews цитували сатиричні статті як реальні рекомендації для людей.
Висновок: Необхідність критичного підходу до інформації
Одна з ключових проблем, що виникають у зв’язку з абсурдними заявами нових чатботів, полягає у відсутності здатності розрізняти факти та жарт. Користувачі, які сприймають інформацію на віру, стають безпорадними розповсюджувачами фейкових новин. Тож важливо пам’ятати про критичний підхід до споживання медійної інформації у добу стрімкого розвитку штучного інтелекту.
