Yapay zeka hata yaparsa sorumlu kim olur?

Müşteri hizmetleri asistanın bir müşteriye iki yıl garanti olduğunu söylüyor, oysa bir yıl. Ya da yapay zekan otomatik giden bir teklifte bir sıfırı eksik yazıyor. Yapay zeka hata yaparsa sorumlu kim olur: sen mi, müşterin mi, sistemi kuran şirket mi? Dürüst cevap: sıradaki ilk kişi sensin. Ve 9 Aralık 2026 itibarıyla bu tablo yalnızca tek yöne kayıyor. Bu yazıda bugünkü hukuki durum, yaklaşan değişiklik ve yapay zekanın dışarıya bir şey göndermesine izin vermeden önce halletmen gereken altı madde var.

Kısa cevap: ilk sırada sen varsın

Bunu yapan yapay zekaydı, o halde tedarikçi ödesin diyen ayrı bir yasa yok. Zarar gören, iş yaptığı şirketin kapısını çalar. O şirket sensin. Müşterinin seni verilen sözü tutmamaktan mı yoksa özensizlikten mi sorumlu tuttuğu cebin açısından pek fark etmez.

Mantık basit ve çürütmesi zor: sistemi kullanmaya sen karar verdin, ne kadar alan tanıyacağını sen belirledin, iyi gittiğinde faydayı sen görüyorsun. Yapay zekan hukuken bir taraf değil. Bir araç. Çöken bir iskele de kendi başına sorumlu tutulmaz.

Bu, tedarikçine karşı elinin boş olduğu anlamına gelmiyor. Ama o ikinci bir konuşma ve ancak müşterini tazmin ettikten sonra başlıyor. Başkasından tahsil etmek aylar sürer. Müşterin ise yarın telefonda.

Bunu en net gösteren dava

En bilinen karar Kanada'dan. Jake Moffatt, Kasım 2022'de Air Canada'nın sitesindeki sohbet botuna vefat indirimini sordu. Bot, indirimi uçuştan sonra da talep edebileceğini söyledi. Doğru değildi: gerçek politika önceden başvuru istiyordu. Air Canada ödemeyi reddetti.

British Columbia uyuşmazlık çözüm mahkemesi 14 Şubat 2024'te aksi yönde karar verdi (Moffatt / Air Canada, 2024 BCCRT 149). Air Canada, diğer savunmalarının yanında botun kendi ifadelerinden kendisinin sorumlu olduğunu ileri sürdü. Bu argüman tutmadı. Şirketin, kendi sitesindeki bilginin doğruluğunu makul ölçüde sağlaması gerekirdi ve yaklaşık 650 Kanada doları ödemek zorunda kaldı.

Tutar küçük. İlke değil. Sisteminin müşteriye söylediği her şeyi şirketin söylemiş sayılır. Yanılan bir çalışan ile yanılan bir asistan arasında fark yok; tek fark, asistanın bunu kimse fark etmeden günde yüz kez yapabilmesi.

9 Aralık 2026'da ne değişiyor?

Yeni bir Avrupa ürün sorumluluğu direktifi var: (AB) 2024/2853 sayılı direktif. 8 Aralık 2024'te yürürlüğe girdi ve en geç 9 Aralık 2026'da ulusal hukuka aktarılmış olmalı. Senin için asıl değişiklik: yazılım, uygulamalar, güncellemeler ve yapay zeka sistemleri o tarihten itibaren ürün sayılıyor. Şimdiye kadar ürün sorumluluğu elle tutulan şeylerle ilgiliydi.

Hollanda henüz tamamlamadı. Direktifi aktaran kanun teklifi (36906 sayılı) 2 Mart 2026'da meclise sunuldu ve Ağustos 2026 başında hâlâ adalet komisyonunda. Bu, süreyi değiştirmiyor: süre Avrupa düzeyinde belirlenmiş durumda.

İki nokta önemli. Birincisi, yeni kurallar yalnızca 9 Aralık 2026'da veya sonrasında piyasaya sürülen ya da hizmete alınan ürünler için geçerli. Halihazırda çalışan sistemler eski rejime tabi. İkincisi, çoğu yazı bunu atlıyor: bu rejim gerçek kişileri koruyor. Bedensel zararı, kişisel kullanımdaki eşyaya gelen zararı ve artık fotoğraf arşivin gibi özel dosyaların yok olmasını kapsıyor. Daha önce geçerli olan 500 euroluk eşik kaldırıldı, yani küçük zararlar da sayılıyor.

Kapsamadığı şey: kurumsal müşterinin ticari kaybı. Sistemin yanlış teslim süresi bildirdiği için bir müşteri ciro kaybederse, ürün sorumluluğu ona yardımcı olmaz. Orada devreye aranızdaki sözleşme ve müşterinin makul beklentisi girer. Çoğu KOBİ için asıl sık yaşanan senaryo tam da budur.

Peki o özel yapay zeka sorumluluk yasası? Gelmiyor

Brüksel yıllarca yapay zeka sorumluluğu için ayrı bir direktif üzerinde çalıştı. Bu, yapay zeka tedarikçisine başvurmayı kolaylaştıracaktı. Teklif geri çekildi: Avrupa Komisyonu bunu Şubat 2025'te duyurdu ve geri çekme 6 Ekim 2025'te Resmî Gazete'de yayımlandı. Uzlaşma sağlanamadı.

Senin için anlamı: özel kural yok, özel koruma yok, özel kaçış yolu yok. Bir çalışan yanlış bir şey söylediğinde ya da bir makine bozulduğunda geçerli olan sıradan hukuk. Manşetlerin ima ettiğinden daha sakin bir tablo ve soruyu hukuki olmaktan çıkarıp pratik hale getiriyor: ara sıra uyduran bir sisteme ne kadar alan tanıyorsun?

Pratikten üç durum

1. Asistanın doğru olmayan bir söz veriyor

Müşteri ürünü hâlâ değiştirip değiştiremeyeceğini soruyor. Asistan evet diyor, kural hayır diyor. Kaba kural: müşteri buna makul şekilde güvenebiliyorsa, bağlısın. Tüketici söz konusuysa fazlasıyla. Sistemin ne kadar kesin konuşursa güven o kadar güçlenir. Tereddütte devri insana bırakan bir sistem sana birkaç dakikaya mal olur. Tereddütte tahmin yürüten bir sistem sana verilen sözün bedeline mal olur.

2. Yanlış tutarla bir teklif çıkıyor

Burada mesele, karşı tarafın hatayı görmesi gerekip gerekmediği. 4.500 olması gereken yerde 450 euro yazıyorsa büyük ihtimalle kurtulursun, çünkü bu bariz bir yanlışlık. 4.500 olması gereken yerde 4.150 yazıyorsa müşteri buna güvenebilir. Tam da bu yüzden araya bir insan koyduğun süreç budur: yapay zeka kötü hesap yaptığı için değil, e-posta gittikten sonra hatanın geri alınamaz olduğu için.

3. Tedarikçinin sistemi tuhaf bir şey yapıyor

Zararını tahsil etmeyi deneyebilirsin. Pratikte standart koşullara takılırsın: birçok sözleşme sorumluluğu bir yılda ödediğin tutarla sınırlar. Ayda 40 euroluk bir abonelikte bu 480 euro eder. Bu teminat değil, jest. Bunun bir işe yaramasını istiyorsan önceden düzenle. Sonradan boş elle pazarlık edersin.

Yayına almadan önce halledilecek altı şey

Sorumluluğu yapay zekadan kaçınarak sınırlamazsın. Sistemin neyle ilgilenip neyle ilgilenmeyeceğine önceden karar vererek sınırlarsın. Her projede baştan sona gittiğimiz liste bu; kendin de uygulayabilirsin.

• Sistemin tek başına ne yapabileceğini yaz. Genel ifadelerle değil, işlem bazında: çalışma saatleri sorusuna cevap vermek, evet. Garanti, fiyat veya teslim süresi konusunda taahhüt, hayır.
• Geri alınabilirlik kuralını uygula. Beş dakika içinde geri alabildiğin her şeyi sistem kendi yapabilir. Dışarıya giden veya paraya dokunan her şey bir insandan geçer.
• Ne olduğunu kaydet. Hangi soru geldi, hangi cevap gitti, saat kaçta. Bu olmadan bir şikayette ne söylendiğini yeniden kuramazsın ve özenli davrandığını da gösteremezsin.
• Yapay zeka olduğunu bildir. 2 Ağustos 2026'dan bu yana, biri bir yapay zeka sistemiyle iletişim kuruyorsa bu zorunlu. İlk mesajdaki tek satır yeterli, ama orada olmak zorunda.
• Sistemi kuran tarafla sözleşmede kimin neyi üstlendiğini yaz: hatayı kim, hangi sürede giderir ve üst sınır nedir. İmzadan önce, ilk olaydan sonra değil.
• Sigortacına yazılı olarak sor: işletme sorumluluk poliçen otomatik bir cevabın yol açtığı zararı karşılıyor mu? Acenteyle sözlü değil. Yazılı ve mümkün olduğunca somut bir soruyla.

Senin için bunu kuracak herkese üç soru

Bizimle de konuşsan başkasıyla da, bu sorular on dakikada karşındakinin bunu düşünüp düşünmediğini gösterir.

• Bu sistem, benim artık geri alamayacağım hangi işlemleri yapabiliyor? Cevap muğlaksa tasarım da muğlaktır.
• Sistemin neyi söylememesi gerektiği nerede yazılı? İyi bir yapımcının listesi vardır, hissi değil.
• Sistem bilmediğinde ne oluyor? Doğru cevap: cevap vermez ve konu bir insana düşer. Elinden geleni yapar değil.

Sorunların çoğu tam burada başlar. Anlamadığı bir soruda elinden geleni yapan bir sistem, bilen bir sistem kadar ikna edici duyulur. Bu fark umut edilerek değil, tasarlanarak sağlanır.

Bunu düzgün kurmanın maliyeti nedir?

Ücretsiz bir tanışma görüşmesiyle başlıyorum. Hangi işlerin zaman aldığını, hangi sistemleri kullandığını ve otomasyonun nerede yardımcı olabileceğini konuşuyoruz. Ardından otomasyon fırsatlarını, bağlantıları, takvimi ve maliyetleri içeren bir teklif alıyorsun.

Sonrasında biz kurarsak, bir ila iki haftalık küçük bir proje 300 ile 5.000 euro arasında, üç ila altı haftalık orta ölçekli bir proje 5.000 ile 12.000 euro arasında. Bakım aylık, 100 eurodan başlıyor ve her ay iptal edilebiliyor. Sınır çizme ve kayıt tutma bizde ek kalem değil. Tasarımın parçası, çünkü onlar olmadan sistemin ne yaptığını açıklayamayız.

Ve cevap bu süreci elle yürütmenin daha iyi olduğu yönündeyse, bunu da söyleriz. Sorumluluk söz konusu olduğunda bu sanılandan sık olur: bazı kararların yanlış verilmesi fazlasıyla pahalıdır.

Bugün ne yapabilirsin?

Şirketinde hâlihazırda çalışan bir yapay zeka uygulamasını al ve kendine üç soru sor. Kimse bakmadan dışarıya bir şey gönderebiliyor mu? Dün bir müşteriye ne söylediğini bulabiliyor muyum? Bir aksilikte tedarikçimin neyi karşıladığını biliyor muyum? Üç kere hayır felaket değil ama bir öğleden sonrayı hak ediyor.