من يتحمّل المسؤولية عندما يخطئ الذكاء الاصطناعي؟

مساعد خدمة العملاء لديك يخبر عميلاً بأن الضمان سنتان بينما هو سنة واحدة. أو يسقط الذكاء الاصطناعي صفراً في عرض سعر يخرج تلقائياً. من يتحمّل المسؤولية عندما يخطئ الذكاء الاصطناعي: أنت، أم عميلك، أم الشركة التي بنت النظام؟ الجواب الصريح أنك أنت أول من يُسأل. وفي 9 ديسمبر 2026 لن يتحرك هذا إلا في اتجاه واحد. في هذا المقال: ما يقوله القانون اليوم، وما هو قادم، والأمور الستة التي تُحسم قبل أن تسمح للنظام بإرسال أي شيء.

الجواب المختصر: أنت أولاً

لا يوجد قانون خاص يقول: كان هذا خطأ الذكاء الاصطناعي فليدفع المورّد. من يتضرر يطرق باب الشركة التي تعامل معها. تلك الشركة هي أنت. وسواء طالبك العميل بوعدٍ لم تفِ به أو بإهمالٍ في العناية، فالفرق ضئيل على جيبك.

المنطق بسيط ويصعب دحضه: أنت من قرر تشغيل النظام، وأنت من حدّد المساحة التي يتحرك فيها، وأنت المستفيد عندما ينجح. نظامك ليس طرفاً قانونياً. إنه أداة. والسقالة التي تنهار لا تُسأل عن نفسها أيضاً.

هذا لا يعني أنك بلا حق تجاه مورّدك. لكنه حديث ثانٍ لا يبدأ إلا بعد أن تكون قد عوّضت عميلك. الرجوع على غيرك يستغرق شهوراً. أما عميلك فسيتصل غداً.

القضية التي توضّح ذلك أكثر

أشهر حكم في هذا الشأن جاء من كندا. في نوفمبر 2022 سأل جيك موفات روبوت الدردشة على موقع إير كندا عن تذاكر العزاء. أخبره الروبوت أنه يستطيع طلب الخصم بعد السفر. لم يكن ذلك صحيحاً: السياسة الفعلية تشترط الطلب مسبقاً. ورفضت الشركة الدفع.

لكن محكمة تسوية المنازعات في كولومبيا البريطانية رأت غير ذلك في 14 فبراير 2024 (موفات ضد إير كندا، 2024 BCCRT 149). دفعت الشركة، من بين ما دفعت به، بأن الروبوت مسؤول عن أقواله. لم يصمد هذا الدفع. كان على الشركة أن تحرص بشكل معقول على صحة المعلومات على موقعها، ودُفعت نحو 650 دولاراً كندياً.

المبلغ صغير. المبدأ ليس كذلك. كل ما يقوله نظامك للعميل تقوله شركتك. لا فرق بين موظف يخطئ ومساعد يخطئ، سوى أن المساعد قد يكرر الخطأ مئة مرة يومياً قبل أن ينتبه أحد.

ما الذي يتغيّر في 9 ديسمبر 2026

هناك توجيه أوروبي جديد للمسؤولية عن المنتجات: التوجيه (الاتحاد الأوروبي) 2024/2853. دخل حيز النفاذ في 8 ديسمبر 2024، ويجب نقله إلى القوانين الوطنية بحد أقصى 9 ديسمبر 2026. التغيير الجوهري بالنسبة لك: البرمجيات والتطبيقات والتحديثات وأنظمة الذكاء الاصطناعي تُعدّ منتجاً اعتباراً من ذلك التاريخ. حتى الآن كانت المسؤولية عن المنتجات تخص أشياء ملموسة.

هولندا لم تنتهِ بعد. مشروع القانون الناقل للتوجيه (رقم 36906) قُدّم إلى البرلمان في 2 مارس 2026 ولا يزال في مطلع أغسطس 2026 لدى لجنة العدل. هذا لا يغيّر الموعد النهائي: فهو محدد على المستوى الأوروبي.

أمران يجب معرفتهما. أولاً، القواعد الجديدة تسري فقط على المنتجات التي تُطرح في السوق أو تدخل الخدمة في 9 ديسمبر 2026 أو بعده. وما يعمل اليوم يبقى تحت النظام القديم. ثانياً، وهو ما تتجاهله أغلب المقالات: هذا النظام يحمي الأشخاص الطبيعيين. يشمل الإصابات، والأضرار التي تلحق بأشياء يستخدمها الشخص في حياته الخاصة، ومؤخراً إتلاف الملفات الخاصة مثل أرشيف صورك. كما أُلغيت عتبة الـ500 يورو، فصارت الأضرار الصغيرة محسوبة أيضاً.

وما لا يشمله: الخسارة التجارية لعميلك من الشركات. إذا خسر عميل إيرادات لأن نظامك أعطى مهلة تسليم خاطئة، فالمسؤولية عن المنتجات لا تنفعه. عندها يحكم عقدكما وما كان يحق له توقعه بشكل معقول. ولدى معظم الشركات الصغيرة والمتوسطة هذا هو السيناريو الأكثر تكراراً.

وماذا عن قانون المسؤولية الخاص بالذكاء الاصطناعي؟ لن يأتي

عملت بروكسل سنوات على توجيه منفصل للمسؤولية عن الذكاء الاصطناعي، كان سيسهّل مقاضاة مورّد الذكاء الاصطناعي. سُحب المقترح: أعلنت المفوضية الأوروبية ذلك في فبراير 2025، ونُشر السحب في الجريدة الرسمية في 6 أكتوبر 2025. لم يُتوصل إلى اتفاق.

بالنسبة لك يعني ذلك: لا قواعد خاصة، ولا حماية خاصة، ولا مخرج خاص. القانون العادي نفسه الذي يسري حين يقول موظف شيئاً خاطئاً أو تتعطل آلة. هذا أقل إثارة مما توحي به العناوين، وهو يحوّل السؤال من قانوني إلى عملي: كم مساحة تمنحها لنظام يختلق أحياناً؟

ثلاث حالات من الواقع

1. مساعدك يَعِد بشيء غير صحيح

يسأل عميل إن كان بإمكانه استبدال المنتج. المساعد يقول نعم، والسياسة تقول لا. القاعدة العملية: إذا كان بوسع العميل أن يثق بذلك بشكل معقول فأنت ملزم. ومع المستهلك بدرجة أكبر. وكلما بدا نظامك أكثر جزماً، ازدادت تلك الثقة. النظام الذي يحيل إلى إنسان عند الشك يكلفك دقائق. والنظام الذي يخمّن عند الشك يكلفك الوعد.

2. يخرج عرض سعر بمبلغ خاطئ

هنا يتوقف الأمر على ما إذا كان الطرف الآخر يفترض أن يلاحظ الخطأ. إذا كُتب 450 يورو مكان 4.500 فالأرجح أنك تتخلص من الالتزام، لأنه غلط ظاهر. أما إذا كُتب 4.150 مكان 4.500 فمن حق العميل أن يثق. ولهذا بالذات تضع إنساناً في هذه الحلقة: لا لأن الذكاء الاصطناعي سيئ في الحساب، بل لأن الخطأ لا يُسترد بعد خروج الرسالة.

3. نظام مورّدك يتصرف بغرابة

يمكنك محاولة استرداد خسارتك. لكن الشروط القياسية تعترض الطريق عملياً: كثير من العقود تحدّ المسؤولية بما دفعته خلال سنة. وباشتراك بـ40 يورو شهرياً يصبح ذلك 480 يورو. هذه ليست تغطية، بل لفتة. إن أردت لهذا قيمة فاحسمه مسبقاً. أما لاحقاً فتفاوض بيد فارغة.

ستة أمور تُحسم قبل التشغيل

لا تحدّ من مسؤوليتك بتجنّب الذكاء الاصطناعي، بل بتحديد ما يتولاه النظام وما لا يتولاه مسبقاً. هذه هي القائمة التي نمر عليها في كل مشروع، ويمكنك أن تمر عليها بنفسك.

• اكتب ما يجوز للنظام فعله وحده. لا بعبارات عامة بل لكل إجراء: الإجابة عن سؤال حول ساعات العمل، نعم. تقديم التزامات بشأن الضمان أو السعر أو موعد التسليم، لا.
• طبّق قاعدة قابلية التراجع. كل ما يمكنك التراجع عنه خلال خمس دقائق يجوز للنظام فعله. وكل ما يخرج للخارج أو يمسّ المال يمر عبر إنسان.
• سجّل ما يحدث. أي سؤال وصل، وأي جواب خرج، وفي أي وقت. بدون ذلك لا يمكنك عند الشكوى إعادة بناء ما قيل، ولا إثبات أنك كنت حريصاً.
• أعلن أنه ذكاء اصطناعي. منذ 2 أغسطس 2026 صار ذلك إلزامياً عندما يتواصل شخص مع نظام ذكاء اصطناعي. سطر واحد في الرسالة الأولى يكفي، لكن يجب أن يكون موجوداً.
• حدّد في العقد مع من يبني لك من يتحمل ماذا: من يصلح الخطأ، وخلال أي مدة، وما هو الحد الأقصى. قبل التوقيع لا بعد أول حادثة.
• اسأل شركة التأمين كتابةً إن كانت وثيقة المسؤولية المدنية تغطي ضرراً ناتجاً عن رد آلي. لا شفهياً عبر الوسيط. كتابةً وبسؤال محدد قدر الإمكان.

ثلاثة أسئلة لمن يبني لك

سواء تحدثت معنا أو مع غيرنا، هذه الأسئلة تكشف خلال عشر دقائق إن كان الطرف الآخر قد فكّر في الأمر.

• ما الإجراءات التي يستطيع هذا النظام تنفيذها ولا أستطيع التراجع عنها؟ إن كان الجواب غامضاً فالتصميم غامض.
• أين هو المكتوب بما لا يجوز للنظام قوله؟ البنّاء الجيد لديه قائمة، لا إحساس.
• ماذا يحدث حين لا يعرف النظام؟ الجواب الصحيح: لا يجيب ويتسلم الأمر إنسان. لا: يبذل ما بوسعه.

من هنا تأتي أغلب المتاعب. النظام الذي يبذل ما بوسعه في سؤال لا يفهمه يبدو مقنعاً تماماً كنظام يعرف الجواب. هذا الفارق يُبنى ولا يُترك للأمل.

كم يكلّف ضبط هذا؟

بصراحة بشأن السعر: المحادثة الأولى مجانية وتكلفك ساعة. وإن أردت فحصاً جدياً فنحن نجري مسحاً للذكاء الاصطناعي بـ1.500 يورو. نمر على عملياتك وتحصل على تقرير يبيّن أين يحدث الخلل، وما الذي يستحق المعالجة، وأين يُفضّل ألا تضع ذكاءً اصطناعياً إطلاقاً.

وإن بنينا بعد ذلك، فمشروع صغير من أسبوع إلى أسبوعين يتراوح بين 300 و5.000 يورو، ومشروع متوسط من ثلاثة إلى ستة أسابيع بين 5.000 و12.000 يورو. الصيانة شهرية تبدأ من 100 يورو وقابلة للإلغاء شهرياً. تحديد النطاق والتسجيل ليسا بنداً إضافياً عندنا، بل جزء من التصميم، فبدونهما لا نستطيع شرح ما يفعله النظام.

وإن كانت الخلاصة أن الأفضل إبقاء هذه العملية يدوية، نقول ذلك أيضاً. في مسائل المسؤولية يتكرر هذا أكثر مما تظن: بعض القرارات ببساطة أغلى من أن تُخطئ فيها.

ما الذي يمكنك فعله اليوم

خذ تطبيق ذكاء اصطناعي يعمل الآن في شركتك واسأل نفسك ثلاثة أسئلة. هل يستطيع إرسال شيء دون أن يراجعه أحد؟ هل أستطيع معرفة ما قاله أمس لعميل؟ هل أعرف ما الذي يعوّضه مورّدي إذا ساءت الأمور؟ ثلاث إجابات بالنفي ليست كارثة، لكنها تستحق بعد ظهر من العمل.