Штучний інтелект може помилятись?
Попри високу ефективність, масове впровадження військового ШІ створює серйозні виклики як для супротивника, так і для сторони, яка його застосовує.
Про це йдеться у матеріалі РБК-Україна "Рік до війни без людей? Що кажуть експерти про попередження Зеленського щодо ШІ".
Так, найбільший ризик полягає в тому, що алгоритм може помилитися. У реальних бойових умовах зображення рідко буває ідеальним: є дим, пил, погана погода, пошкоджена техніка, нестандартні ракурси, велика кількість схожих об’єктів.
У таких умовах навіть добре навчена модель може неправильно класифікувати ціль, а наслідки такої помилки можуть бути дуже серйозними.
Ще один ризик пов’язаний із тим, що противник теж адаптується. Якщо стає зрозуміло, за якими ознаками система розпізнає техніку або людей, з’являються спроби її обманути за допомогою маскування, макетів, зміни силуету чи інших візуальних прийомів.
Окреме питання стосується рівня контролю з боку людини. Чим більше функцій система виконує автономно, тим важливіше заздалегідь визначити, у яких межах вона може діяти самостійно і в який момент рішення обов’язково має залишатися за оператором.
Також залишається юридичне питання відповідальності. Якщо автономна система допустила помилку, потрібно чітко розуміти, хто саме відповідає за наслідки: розробник, виробник, оператор чи командування.
Раніше повідомлялось, що Сили оборони України вже застосовують понад 70 різних систем, в основі яких лежать технології штучного інтелекту та машинного зору для поразки ворожих цілей.