Хто відповідає, якщо ШІ помилився?

Ваш помічник служби підтримки каже клієнту, що гарантія два роки, хоча вона один. Або ваш ШІ пропускає нуль у комерційній пропозиції, яка йде автоматично. Хто відповідає, якщо ШІ помилився: ви, ваш клієнт чи компанія, яка збудувала систему? Чесна відповідь: першим у черзі стоїте ви. І 9 грудня 2026 року це зрушиться лише в один бік. У цій статті: що каже закон сьогодні, що буде далі й шість речей, які варто владнати, перш ніж дозволити ШІ щось надсилати назовні.

Коротка відповідь: першим стоїте ви

Немає окремого закону, який казав би: це був ШІ, тож нехай платить постачальник. Той, хто зазнав збитків, стукає у двері бізнесу, з яким мав справу. Це ви. Чи клієнт вимагає від вас виконання обіцянки, чи докоряє необачністю, для вашого гаманця різниця невелика.

Логіка проста і її важко заперечити: ви вирішили впровадити систему, ви визначили, скільки їй дозволено, і ви маєте вигоду, коли все працює. Ваш ШІ юридично не є стороною. Це інструмент. Риштування, що завалилося, теж не відповідає саме за себе.

Це не означає, що ви безсилі щодо постачальника. Але то друга розмова, і вона починається аж після того, як ви вже компенсували клієнтові. Стягнення з іншого триває місяцями. Клієнт телефонує завтра.

Справа, яка показує це найяскравіше

Найвідоміше рішення походить із Канади. У листопаді 2022 року Джейк Моффатт запитав чат-бота на сайті Air Canada про жалобні тарифи. Бот сказав, що знижку можна оформити після польоту. Це було неправдою: справжні правила вимагали заявки заздалегідь. Air Canada відмовилася платити.

Трибунал із вирішення спорів Британської Колумбії 14 лютого 2024 року вирішив інакше (Моффатт проти Air Canada, 2024 BCCRT 149). Серед іншого авіакомпанія стверджувала, що бот сам відповідає за свої слова. Цей аргумент не спрацював. Компанія мала розумно подбати про точність інформації на власному сайті й сплатила близько 650 канадських доларів.

Сума мала. Принцип, ні. Усе, що ваша система каже клієнтові, каже ваша компанія. Немає різниці між працівником, який помилився, і помічником, який помилився, крім того, що помічник може зробити це сто разів на день, перш ніж хтось помітить.

Що змінюється 9 грудня 2026 року

Є нова європейська директива про відповідальність за продукцію: Директива (ЄС) 2024/2853. Вона набула чинності 8 грудня 2024 року і має бути перенесена в національне право не пізніше 9 грудня 2026 року. Головна зміна для вас: програмне забезпечення, застосунки, оновлення та системи ШІ від тієї дати вважаються продуктом. Досі відповідальність за продукцію стосувалася речей, які можна взяти в руки.

Нідерланди ще не завершили процес. Законопроєкт про перенесення директиви (номер 36906) було подано до парламенту 2 березня 2026 року, і на початок серпня 2026 року він усе ще в комітеті з питань юстиції. На строк це не впливає: він визначений на європейському рівні.

Два уточнення. По-перше, нові правила стосуються лише продуктів, введених в обіг або в експлуатацію 9 грудня 2026 року чи пізніше. Те, що вже працює, залишається під старим режимом. По-друге, і це більшість статей оминає: режим захищає фізичних осіб. Він охоплює шкоду здоров'ю, шкоду речам приватного вжитку і тепер також знищення приватних файлів, як-от архіву фотографій. Поріг у 500 євро скасовано, тож дрібна шкода теж рахується.

Чого він не охоплює: комерційних збитків вашого бізнес-клієнта. Якщо клієнт втратив виторг, бо ваша система назвала хибний строк постачання, відповідальність за продукцію йому не допоможе. Тоді все впирається у ваш договір і в те, чого він міг розумно очікувати. Для більшості малих і середніх компаній саме цей сценарій трапляється найчастіше.

А той окремий закон про відповідальність за ШІ? Його не буде

Брюссель роками працював над окремою директивою про відповідальність за ШІ. Вона полегшила б позов до постачальника ШІ. Пропозицію відкликано: Європейська комісія оголосила про це в лютому 2025 року, а саме відкликання опубліковано в Офіційному віснику 6 жовтня 2025 року. Згоди не досягли.

Для вас це означає: жодних особливих правил, жодного особливого захисту й жодного особливого виходу. Звичайне право, те саме, що діє, коли працівник скаже дурницю або зламається машина. Це менш драматично, ніж заголовки, і робить питання практичним, а не юридичним: скільки свободи ви даєте системі, яка час від часу вигадує?

Три ситуації з практики

1. Ваш помічник обіцяє те, чого немає

Клієнт питає, чи можна ще обміняти товар. Помічник каже так, правила кажуть ні. Орієнтир: якщо клієнт міг розумно на це покластися, ви зв'язані. Зі споживачем, тим паче. Що впевненіше звучить ваша система, то сильніша ця довіра. Система, яка в разі сумніву передає людині, коштує вам кількох хвилин. Система, яка в разі сумніву вгадує, коштує вам обіцянки.

2. Виходить пропозиція з неправильною сумою

Тут усе залежить від того, чи мав інший помітити помилку. Якщо стоїть 450 євро там, де має бути 4 500, ви, найімовірніше, викрутитеся: це очевидна описка. Якщо стоїть 4 150 там, де має бути 4 500, клієнт має право на це покластися. Саме тому це той процес, куди ви ставите людину: не тому, що ШІ погано рахує, а тому, що після відправлення листа помилку вже не повернути.

3. Система вашого постачальника робить щось дивне

Можна спробувати стягнути збитки. На практиці заважають стандартні умови: багато договорів обмежують відповідальність тим, що ви заплатили за рік. За підписки в 40 євро на місяць це 480 євро. Це не покриття, а жест. Щоб із цього була користь, домовляйтеся заздалегідь. Потім ви ведете переговори з порожніми руками.

Шість речей, які владнують до запуску

Відповідальність обмежують не уникненням ШІ. Її обмежують, наперед визначивши, чим система займається, а чим ні. Це список, який ми проходимо в кожному проєкті і який ви можете пройти самі.

• Запишіть, що система може робити самостійно. Не загальними словами, а по кожній дії: відповісти на питання про години роботи, так. Давати зобов'язання щодо гарантії, ціни чи строку, ні.
• Застосовуйте правило оборотності. Усе, що можна скасувати за п'ять хвилин, система може робити сама. Усе, що йде назовні чи стосується грошей, проходить через людину.
• Записуйте, що відбувається. Яке питання надійшло, яка відповідь пішла, о котрій годині. Без цього при скарзі ви не відновите сказаного і не доведете, що були обачні.
• Повідомляйте, що це ШІ. Від 2 серпня 2026 року це обов'язково, коли людина спілкується з системою ШІ. Одного рядка в першому повідомленні досить, але він має бути.
• Пропишіть у договорі з виконавцем, хто за що відповідає: хто виправляє помилку, у який строк і яка стеля. До підпису, а не після першого інциденту.
• Запитайте страховика письмово, чи покриває ваш поліс відповідальності шкоду, спричинену автоматичною відповіддю. Не усно через брокера. Письмово і якомога конкретніше.

Три питання до кожного, хто це для вас будує

Розмовляєте ви з нами чи з кимось іншим, ці питання за десять хвилин покажуть, чи людина про це думала.

• Які дії ця система може виконати так, що я вже не скасую? Якщо відповідь розмита, то й задум розмитий.
• Де записано, чого система казати не має права? У доброго виконавця є список, а не відчуття.
• Що відбувається, коли система не знає? Правильна відповідь: вона не відповідає, і справу бере людина. А не: вона робить усе можливе.

Саме тут починається більшість проблем. Система, яка робить усе можливе з питанням, якого не розуміє, звучить так само переконливо, як система, що знає. Цю різницю треба закладати, а не сподіватися на неї.

Скільки коштує зробити це як слід?

Я починаю з безкоштовної ознайомчої розмови. Ми обговорюємо, що забирає час, якими системами ти користуєшся і де може допомогти автоматизація. Потім ти отримуєш пропозицію з можливостями автоматизації, інтеграціями, графіком і витратами.

Якщо потім будуємо, невеликий проєкт на один-два тижні коштує від 300 до 5 000 євро, середній на три-шість тижнів, від 5 000 до 12 000 євро. Обслуговування щомісячне, від 100 євро, і його можна припинити щомісяця. Окреслення меж і журналювання у нас не додаткова послуга. Це частина задуму, бо без них ми не зможемо пояснити, що система робить.

А якщо висновок буде такий, що цей процес краще лишити ручним, ми теж це скажемо. З питаннями відповідальності таке трапляється частіше, ніж здається: деякі рішення просто надто дорого робити неправильно.

Що можна зробити сьогодні

Візьміть один ШІ-застосунок, який уже працює у вашій компанії, і поставте собі три питання. Чи може він відправити щось назовні без нагляду? Чи можу я подивитися, що він учора сказав клієнтові? Чи знаю я, що відшкодовує постачальник, якщо піде не так? Три «ні», не катастрофа, але вони варті пів дня роботи.