Yapay zekâdan alınan bir öneride son karar sorumluluğu kimde olmalıdır?

Yapay Zekâdan Alınan Bir Öneride Son Karar Sorumluluğu Kimde Olmalıdır?

Bir yönetici yapay zekâya veri verir.

Sistem analiz yapar.

Alternatifleri sıralar.

Riskleri gösterir.

Ve bir öneri sunar:

“Bu seçeneği tercih edin.”

Karar uygulanır.

Sonuç kötü olur.

Bu noktada yeni iş hayatının en önemli sorularından biri ortaya çıkar:

Sorumluluk kimdedir?

Yapay zekânın mı?

Aracı kullanan çalışanın mı?

Yöneticinin mi?

Sistemi kuruma alan bölümün mü?

Üst yönetimin mi?

Bu soru artık yalnızca teknoloji departmanının konusu değildir.

Karar verme, risk yönetimi, liderlik ve kurumsal sorumluluk problemidir.

Çünkü yapay zekâ iş süreçlerine girdikçe kararın nasıl üretildiği değişebilir.

Ancak kararın sonuçları hâlâ gerçek insanları, müşterileri ve kurumları etkiler.

Yapay Zekâ Karar Verir mi, Kararı Destekler mi?

Bu iki kavram birbirinden ayrılmalıdır.

AI;

• Veri analiz edebilir.

• Örüntü bulabilir.

• Tahmin yapabilir.

• Senaryo üretebilir.

• Seçenekleri kıyaslayabilir.

• Riskleri sıralayabilir.

• Öneri oluşturabilir.

Bunların tamamı karar sürecine destek sağlar.

Ancak;

“Bu öneriyi uyguluyoruz.”

cümlesi farklıdır.

Bu artık kurumsal iradedir.

Dolayısıyla sistemin öneri üretmesi ile kurumun karar alması aynı şey değildir.

“AI Böyle Söyledi” Geçerli Bir Gerekçe midir?

Hayır.

Bu ifade kararın nasıl üretildiğini açıklayabilir.

Ancak sorumluluğu ortadan kaldırmaz.

Örneğin yönetici;

“Bu müşteriye kredi vermeyelim, AI riskli buldu.”

diyorsa şu sorular hâlâ geçerlidir:

• Hangi veri kullanıldı?

• Veri doğru muydu?

• Model hangi kriterlere baktı?

• Karar insan tarafından incelendi mi?

• İstisna değerlendirmesi yapıldı mı?

• Sonuç müşteriyi nasıl etkiliyor?

AI çıktısı kararın gerekçelerinden biri olabilir.

Kararın sahibi değildir.

Nihai Sorumluluk Kimde Olmalıdır?

Genel prensip şudur:

Kararı uygulama yetkisi kimdeyse, nihai sorumluluk da orada olmalıdır.

Bir işe alım kararını İK ve yönetici veriyorsa sorumluluk onlardadır.

Bir fiyat kararını satış veya yönetim onaylıyorsa sorumluluk o yapıdadır.

Bir operasyonu durdurma kararını ilgili yönetici veriyorsa hesap verebilirlik ondan kaybolmaz.

AI'nın süreçte bulunması yeni bir aracı sisteme ekler.

İnsan sorumluluğunu silmez.

Yapay Zekânın Hata Yapabileceği Kabul Edilmeli midir?

Evet.

AI sistemleri;

• Eksik veri,

• yanlış veri,

• hatalı varsayım,

• bağlam eksikliği,

• güncel olmayan bilgi,

• yanlış yorumlanan talimat

nedeniyle hatalı sonuç verebilir.

Asıl problem sistemin hiç hata yapmaması beklentisidir.

Kurumun yaklaşımı;

“AI yanılmaz.”

değil,

“AI hata yaparsa bunu hangi kontrol sistemi yakalayacak?”

olmalıdır.

Otomasyon Yanlılığı Nedir?

İnsanlar bazen otomatik sistemlerden gelen önerileri insan görüşünden daha tarafsız veya doğru kabul edebilir.

Özellikle çıktı;

• Sayısal,

• profesyonel,

• hızlı,

• detaylı

göründüğünde sorgulama azalabilir.

Örneğin çalışan kendi gözlemine göre bir adayın uygun olduğunu düşünür.

Ancak sistem;

“Uyum skoru: %42”

verir.

Çalışan bu sayı karşısında kendi değerlendirmesinden vazgeçebilir.

Buradaki risk AI'nın hata yapması kadar, insanın AI'ya gereğinden fazla güvenmesidir.

İnsan Onayı Her AI Kararında Gerekli midir?

Hayır.

Her işlem aynı risk seviyesinde değildir.

Örneğin AI'nın;

bir toplantı notunu özetlemesi

ile

bir çalışanın işten çıkarılmasını önermesi

aynı etkide değildir.

Bu nedenle kurumlar kararları risk seviyelerine göre sınıflandırabilir.

Düşük Etkili Kararlar

Örneğin:

• Metin taslağı

• Toplantı özeti

• Dosya sınıflandırması

• İlk veri düzenleme

Bu alanlarda insan kontrolü daha hafif olabilir.

Orta Etkili Kararlar

Örneğin:

• Satış tahmini

• İş önceliği önerisi

• Eğitim önerisi

• Müşteri segmentasyonu

Burada insan değerlendirmesi daha önemlidir.

Yüksek Etkili Kararlar

Örneğin:

• İşe alma

• İşten çıkarma

• Terfi

• Ücret

• Kredi

• Güvenlik

• Hukuki işlem

• Büyük yatırım

• Kriz müdahalesi

Bu alanlarda açık insan sorumluluğu ve onayı bulunmalıdır.

AI Önerisinin Doğruluğunu Kim Kontrol Etmelidir?

Konuyu bilen kişi.

Bu nokta önemlidir.

Yapay zekâ çıktısını yalnızca AI kullanmayı bilen kişinin kontrol etmesi yeterli olmayabilir.

Örneğin finansal karar için finans uzmanlığı gerekir.

İnsan kaynakları kararı için İK bilgisi gerekir.

Operasyonel risk için süreç bilgisi gerekir.

AI kullanmak alan uzmanlığının yerine geçmez.

Tam tersine AI çıktısını değerlendirmek için uzmanlık daha kritik olabilir.

Karar Yetkisi ile AI Kullanma Yetkisi Aynı Şey midir?

Hayır.

Bir çalışana AI aracı kullanma izni verilmesi;

kurum adına karar verme yetkisi verildiği anlamına gelmez.

Bu ayrım açık değilse çalışan;

“Sistem bunu önerdi, uyguladım.”

diyebilir.

Kurumun şu üç şeyi ayırması gerekir:

• AI kullanma yetkisi

• Öneri üretme yetkisi

• Nihai karar yetkisi

Bu üçü aynı kişide olmak zorunda değildir.

Yapay Zekâ Önerisi Yönetici Görüşüyle Çelişirse Ne Yapılmalıdır?

İki uç yaklaşım da risklidir:

“AI söylediyse doğrudur.”

ve

“Ben yöneticiyim, sistem ne derse desin.”

Daha doğru yaklaşım çelişkinin nedenini araştırmaktır.

Sorulabilir:

• AI hangi veriye baktı?

• Yönetici hangi bağlamı biliyor?

• Veride eksik olan ne?

• Sistem hangi varsayımı yaptı?

• İnsan hangi önyargıya sahip olabilir?

• Hangi ek bilgi karar kalitesini artırır?

AI ile insan görüşünün çatışması bir sorun değil, daha derin inceleme sinyali olabilir.

Yapay Zekâ Kararında Açıklanabilirlik Neden Önemlidir?

Bir kararın yalnızca sonucunu bilmek yeterli olmayabilir.

Örneğin;

“Aday uygun değil.”

Neden?

“Müşteri yüksek riskli.”

Neye göre?

“Bu çalışan düşük potansiyelli.”

Hangi göstergelerle?

Kararın insan üzerinde etkisi arttıkça kurumun gerekçeyi anlayabilmesi daha önemli hâle gelir.

Açıklanamayan bir öneriyi kritik kararda kullanmak risk yaratabilir.

AI Kararlarında Veri Kalitesi Neden Kritik?

Yapay zekâ güçlü analiz yapabilir.

Ama yanlış veri üzerinden yapılan güçlü analiz yine yanlış sonuca götürebilir.

Örneğin çalışan performans sisteminde yalnızca satış rakamı varsa AI;

müşteri ilişkisini,

ekip desteğini,

kriz çözümünü,

bilgi paylaşımını

göremeyebilir.

Bu durumda karar matematiksel olarak tutarlı görünür ancak gerçekliği eksik temsil eder.

Yapay Zekâ Kriz Anlarında Kullanılabilir mi?

Evet.

AI kriz sırasında;

• Bilgiyi hızlı özetleyebilir,

• risk senaryoları oluşturabilir,

• geçmiş vakaları karşılaştırabilir,

• müdahale seçenekleri üretebilir,

• iletişim taslakları hazırlayabilir.

Ancak kriz anlarında veri eksik ve koşullar hızla değişebilir.

Bu nedenle AI önerileri karar desteği olarak kullanılmalı; kritik müdahalenin sorumluluğu açık insan rollerinde kalmalıdır.

Mevcut Alben Akademi eğitim yapısında da Kriz Yönetimi Eğitimi; kriz anında doğru karar alma, sakin kalma, stratejik planlama ve hızlı müdahale ekseninde konumlandırılıyor.

Baskı Altında AI'ya Daha Fazla Güvenme Riski Var mıdır?

Olabilir.

Kriz sırasında insanlar;

• Zaman baskısı,

• belirsizlik,

• stres,

• bilgi fazlalığı

nedeniyle hızlı bir cevaba ihtiyaç duyar.

AI bu ihtiyacı çok iyi karşılar.

Tam da bu nedenle risk artabilir:

Hızlı cevap, doğru karar sanılabilir.

Kurumun kriz protokolünde;

• Hangi AI çıktısının doğrulanacağı,

• hangi kararın kim tarafından onaylanacağı,

• hangi durumda ikinci görüş alınacağı

önceden belirlenmelidir.

Yapay Zekâ Bir Çalışanın Hatasında Sorumluluğu Paylaşır mı?

Kurumsal açıdan AI hukuki veya yönetsel sorumluluğu insan gibi üstlenen bir çalışan değildir.

Bu nedenle;

“AI yanlış yaptı.”

demek olay analizinde anlamlı olabilir.

Ancak yönetim sisteminde daha önemli soru şudur:

AI'nın yanlışını yakalaması gereken kontrol mekanizması neden çalışmadı?

Bu bakış bireysel suçlamadan sistem analizine geçiş sağlar.

Hata Olduğunda Kimi Suçlamak Yerine Ne Yapılmalıdır?

Öncelikle karar zinciri incelenmelidir.

• Veri kimden geldi?

• AI hangi amaçla kullanıldı?

• Çıktı kim tarafından kontrol edildi?

• Kim onayladı?

• Hangi kontrol atlandı?

• Zaman baskısı var mıydı?

• Rol ve sorumluluk açık mıydı?

• Kullanıcı AI'nın sınırlarını biliyor muydu?

Bu yaklaşım kurumun aynı hatayı tekrar etmesini önlemeye yardımcı olur.

AI Kullanımında RACI Benzeri Bir Sorumluluk Yapısı Kurulabilir mi?

Evet.

Örneğin kritik bir AI destekli süreçte dört rol tanımlanabilir:

Kullanan: AI aracını çalıştırır.

Kontrol eden: Çıktının doğruluğunu değerlendirir.

Karar veren: Nihai seçimi yapar.

Hesap veren: Sonucun kurumsal sorumluluğunu taşır.

Bazı durumlarda bu roller aynı kişide olabilir.

Ancak kritik süreçlerde ayrıştırmak güvenliği artırabilir.

Kurumlarda AI Karar Politikası Olmalı mıdır?

AI kullanımı yaygınsa evet.

Politika şu soruları cevaplamalıdır:

• Hangi kararlar AI destekli olabilir?

• Hangi kararlar tamamen otomatik olamaz?

• İnsan onayı nerede zorunludur?

• Hangi veriler kullanılabilir?

• AI çıktısı nasıl doğrulanır?

• Kim hangi aracı kullanabilir?

• Hata nasıl raporlanır?

• Son kararın sahibi kimdir?

Bu yapı çalışanların kendi sınırlarını tahmin etmek zorunda kalmasını önler.

AI'nın Önerisini Reddetmek Çalışanın Yetkisi Olmalı mıdır?

Eğer çalışan çıktıdan sorumluysa gerektiğinde evet.

AI kullanımında sağlıklı davranış;

her öneriyi kabul etmek değildir.

Çalışanın;

• Veri hatası fark ettiğinde,

• bağlamın yanlış olduğunu düşündüğünde,

• risk gördüğünde,

• etik sorun tespit ettiğinde

AI önerisini durdurabilmesi gerekir.

Bunun için kurum psikolojik olarak da güvenli ortam yaratmalıdır.

Çünkü çalışan;

“Sisteme karşı çıkarsam problem olur.”

diye düşünüyorsa kontrol mekanizması çalışmaz.

Yönetici AI Kullanırken Ekibine Ne Öğretmelidir?

Yönetici yalnızca;

“AI kullanın.”

dememelidir.

Şu davranışları da öğretmelidir:

• Soruyu doğru tanımlayın.

• Çıktıyı kontrol edin.

• Kaynakları doğrulayın.

• Alternatif görüş isteyin.

• Kritik kararı otomatik vermeyin.

• Şüphe varsa yükseltin.

• Kararın gerekçesini kaydedin.

• Sonucun sorumluluğunu üstlenin.

Bu davranışlar AI kullanımını araç becerisinden karar disiplini seviyesine taşır.

AI Kararlarında Kayıt Tutmak Neden Önemlidir?

Özellikle kritik kararlar için;

• Hangi AI çıktısının kullanıldığı,

• Kim tarafından değerlendirildiği,

• Hangi gerekçeyle kabul veya reddedildiği,

• Nihai kararı kimin verdiği

kayıt altına alınabilir.

Bu yapı yalnızca denetim için değil, öğrenme için de değerlidir.

Kurum zamanla;

AI hangi alanlarda iyi öneri veriyor, hangi alanlarda daha fazla insan kontrolüne ihtiyaç duyuyor?

sorusunu cevaplayabilir.

Yapay Zekâ Karar Kalitesini Artırabilir mi?

Evet.

Doğru kullanıldığında AI;

• İnsanların gözden kaçırdığı örüntüleri gösterebilir,

• Daha fazla seçeneği hızlı karşılaştırabilir,

• Karar öncesinde farklı senaryolar oluşturabilir,

• Bilgiyi daha hızlı yapılandırabilir.

Ancak güçlü sistem;

AI veya insan

seçmek değildir.

Çoğu durumda güçlü model;

AI analizi + insan bağlamı + uzman değerlendirmesi + açık sorumluluk

birleşimidir.

Davranış Bilimleri Perspektifinden AI ve Karar Sorumluluğu

AI kullanımında asıl risklerden biri sorumluluğun psikolojik olarak dışarıya aktarılmasıdır.

İnsan;

“Bu benim kararım değildi.”

diyerek kendini sonuçtan uzaklaştırabilir.

Bu durum özellikle kötü sonuçlarda güçlenir.

Davranış bilimleri açısından sağlıklı sistem, çalışana yalnızca karar yetkisi vermekle kalmaz.

Karar sahipliğini de görünür hâle getirir.

Çalışan şu üç soruya cevap verebilmelidir:

• Bu öneriyi neden kabul ettim?

• Hangi riski değerlendirdim?

• Sonuçtan hangi ölçüde sorumluyum?

AI kullanımı arttıkça hesap verebilirlik daha az değil, daha açık olmak zorundadır.

Alben Akademi Yaklaşımı

Alben Akademi – Davranış Bilimleri Temelli Kurumsal Gelişim Akademisi, yapay zekâ destekli karar süreçlerini yalnızca teknoloji kullanımı olarak ele almaz.

Çalışmalarda;

• Problem tanımlama,

• karar verme,

• risk değerlendirme,

• baskı altında davranış,

• sorumluluk alma,

• hata kültürü,

• kriz refleksi,

• yönetici davranışı,

• hesap verebilirlik

birlikte değerlendirilebilir.

Amaç çalışanların AI kullanmasını engellemek değildir.

Amaç;

AI'nın hız ve analiz gücünden yararlanırken insan muhakemesini ve karar sorumluluğunu sistemin dışına çıkarmamaktır.

Sonuç

Yapay zekâ öneri verebilir.

Tahmin yapabilir.

Senaryo oluşturabilir.

Hatta bazı durumlarda insandan daha iyi bir seçenek gösterebilir.

Ancak kurum adına sonuç doğuran kararın sahibi yine tanımlanmalıdır.

Çünkü;

“AI böyle söyledi.”

karar sürecinin açıklaması olabilir.

Sorumluluktan çıkış kapısı değildir.

Geleceğin güçlü kurumları yalnızca daha fazla AI kullananlar olmayacaktır.

AI ile insan arasındaki karar sınırını, kontrol mekanizmasını ve hesap verebilirliği en net kuranlar olacaktır.