Як протидіяти дезінформації, яка згенерована штучним інтелектом

Проблема дезінформації, спричиненої штучним інтелектом, частково пов’язана з обмеженнями штучного інтелекту. Так, ШІ здатний робити висновки на основі нових, актуальних даних, але він все ще далекий від спроможності думати так, як це роблять люди і його здатність генерувати значущі висновки з актуальних даних далека від досконалості.

Проте, за умови відсутності прогалин у побудові або навчанні, ШІ може надавати якісні відповіді, засновані на фактах. І саме тут на перший план виходить фактор того, що ШІ може видати суб’єктивну думку за факт.

Неправильні відповіді, думки, подані як факти, та декілька думок, подані як рівноцінні, можуть вважатися формами дезінформації. Така дезінформація може бути навмисною або ненавмисною.

Навмисна дезінформація генерується шляхом маніпуляції ШІ, так би мовити, «отруївши» ШІ для отримання певних відповідей. Таким чином, кіберзловмисники змушують ШІ надавати неправильні відповіді.

Ненавмисна інформація формується коли організація несвідомо подає ШІ упереджені дані, що і призводить до викривлених висновків. У багатьох випадках ШІ надає таку дезінформацію просто тому, що не має достатньої кількості даних.

На жаль, знайти джерело дезінформації й визначити, чи була вона результатом цілеспрямованих дій може бути дуже складно. Особливо з огляду на те, що моделі ШІ часто існують у закритій та непрозорій системі. За допомогою традиційного машинного навчання можна побачити та зрозуміти рішення, що стоять за моделлю ШІ, але в великій мовній моделі, побудованій на нейронних мережах, логіка прийняття рішень полягає у прихованих процесах. Такі моделі узагальнюють дані й, зі сторони користувача, виконують певну магію для надання відповідей.

До потенційних наслідків дезінформації можна віднести прийняття недостатньо обґрунтованих рішень, спираючись на результати, отримані за допомогою ШІ. Наприклад, неправильні відповіді чат-бота на основі штучного інтелекту можуть призвести до неправильних рішень щодо інвестицій, охорони здоров’я, юриспруденції чи працевлаштування.

Менеджери можуть приймати неправильні рішення на основі дезінформації, згенерованої ШІ. ШІ може акцентувати увагу на неправильних типах загроз кібербезпеки, змушуючи керівників служб безпеки коригувати свої стратегії неправильним чином або впроваджувати неоптимальні рішення. Іншими словами, вони можуть довіряти ідеям, згенерованим ШІ без достатнього контролю з боку людини.

Дезінформація не обмежується однією особою чи компанією – вона може мати і широкомасштабні наслідки. Приміром, поширення неправдивої інформації про великі публічні корпорації може дестабілізувати фінансові ринки. Так само і дезінформація про країну може вплинути на геополітичні відносини або зовнішню політику, а ШІ потенційно може загострити ці проблеми.

Проблема криється не лише в тому, що ШІ видає дезінформацію, а й у тому, що ми вважаємо, ніби відповіді, які дає ШІ, завжди правильні. Але вони не є ідеальними. Навпаки, вони не обов’язково дають єдину, остаточну відповідь.

Також, досить часто користувачі очікують від ШІ передбачення того, що станеться в майбутньому. І ШІ дійсно може передбачати результати, але ці прогнози ґрунтуються на минулих подіях і даних. А от коли з’являються нові, більш релевантні дані, їх обов’язково потрібно включати в існуючі моделі ШІ. Але навіть тоді ШІ не буде знати напевно, що станеться – він не зможе інтуїтивно передбачити те, що станеться зі 100% точністю. Саме тому, необхідно коригувати свої очікування від використання ШІ.

Існує декілька методів, які зможуть допомогти зменшити кількість недостовірної інформації, що генерується ШІ. При використанні разом, ці методи дозволять мінімізувати помилки у висновках – навіть якщо стримувати свої очікування від використання ШІ.  

1. Збір більшої кількості даних

Як правило, розробники моделей ШІ, які володіють найбільшою кількістю даних, мають найкращі можливості для отримання точних відповідей. Однак збір даних – це лише перший крок. Розробники моделей і додатків ШІ повинні перетворити ці дані на функції, які можуть вирішувати конкретні проблеми. 

2. Впровадження заходів щодо якості та цілісності даних

Дезінформація може бути наслідком поганого управління даними. Коли моделі ШІ побудовані на неповних, неточних, суперечливих, пошкоджених або помилкових даних, вони дають неправильні відповіді. Потрібно регулярно проводити перевірки та аудити, щоб переконатися, що джерела даних є легітимними і не були підроблені. 

3. Перевірка результатів

На додаток до перевірки вхідних даних, ми повинні фільтрувати те, що надають великі мовні моделі ШІ, відстежуючи стандартизовані шаблони  та підказки. Перевірка результатів дозволяє виявити дезінформацію – навмисну чи ненавмисну – до того, як потрібно використати цю дезінформацію для прийняття рішень. Можна використовувати моделі ШІ для перевірки вихідних і вхідних даних інших моделей ШІ. Це допомагає переконатися, що відповіді знаходяться в діапазоні фактичної точності. 

4. Контроль доступу до моделей ШІ з відкритим кодом

Тіньовий ШІ і, зокрема, несанкціоноване використання загальнодоступних моделей ШІ з відкритим кодом, може посилити вплив дезінформації в компанії. Моніторинг використання цих моделей ШІ в компанії може допомогти захистити конфіденційну інформацію від витоку та мінімізувати ризик прийняття працівниками необґрунтованих рішень на основі дезінформації. 

5. Посилення безпеки внутрішніх моделей

Блокування внутрішніх моделей ШІ за допомогою суворого контролю доступу, відстеження версій, шифрування та цифрових сертифікатів може допомогти запобігти навмисному та ненавмисному зараженню. Необхідно уважно стежити за тим, як використовуються і розгортаються моделі ШІ, щоб виявити будь-які спроби втручання або крадіжки. 

6. Підготовка до дезінформаційних атак

Всі організації повинні бути готовими до дезінформаційних атак. Подібно до підготовки до DDoS-атаки або шантажу, необхідно мати план виявлення атаки, звіти про події, можливості обмеження шкоди та інформування клієнтів, партнерів і громадськості про проблему. Більша частина цього планування має узгоджуватися з типовими стратегіями комунікації в кризових ситуаціях. 

7. Використання людської оцінки

Необхідно розрізняти, що є реальним, а що ні. Це стає складніше зі ШІ. Наприклад, «діпфейки» стають все більш реалістичними, і з часом вони будуть продовжувати вдосконалюватися. Тим часом приватні особи та організації створюють численні фейкові статті, пости в соціальних мережах і коментарі до них, згенеровані ШІ. На жаль, чим більше ми стикаємося з ідеєю або нібито фактом, тим більше ми віримо в їхню достовірність, навіть якщо це не так. 

Як не крути, але людська думка має вирішальне значення для визначення того, чи отримуємо ми неточну інформацію чи дезінформацію. Людям не потрібно знати правильну відповідь на питання (якщо є лише одна правильна відповідь), їм просто потрібно визначити, чи знаходиться відповідь в діапазоні можливих варіантів, враховуючи власний минулий досвід. Це так само, як коли хтось перебільшує або розповідає дивну історію – ми повинні визначити, що є правдою, а що вигадкою. Створюючи середовище критичного мислення, прозорості та безперервного навчання, можливо зменшити ризики, пов’язані з дезінформацією, яку генерує ШІ. 

Без сумнівів ШІ відіграватиме дедалі важливішу роль, інтегруючись у повсякденне життя та роботу. Тому, суспільство вже повинне усвідомлювати потенціал дезінформації, що генерується ШІ, і шукати шляхи мінімізації її наслідків.

Загалом, розвиток штучного загального інтелекту зможе допомогти нам краще визначити потенційні проблеми з моделями ШІ. Ця галузь, намагаючись створити інтелект, більш схожий на людський, може відкрити закриту систему моделей ШІ. Так, ми зможемо визначити, як модель ШІ прийшла до певної відповіді та з’ясувати, чи може вона бути неправильною.

Однак, наразі одними з найважливіших інструментів є наші власні потужні можливості людського мислення. Ми повинні скептично ставитися до інформації – просто тому, що ми щось читаємо або дивимося відео, не означає, що це правда. Найкращий спосіб боротися з дезінформацією – використовувати старий добрий здоровий глузд.