Karar Veriyor muyuz, Yoksa Halüsinasyon mu Üretiyoruz?

“Her halüsinasyon ruhun sanatsal bir yaratımıdır, onu yaratan beyin amaçları ve gayeleriyle şekillenir, süslenir.” – Alfred Adler

Yapay zekâ gündemden düşmüyor.

Özellikle büyük dil modelleri (LLM) için sık duyduğumuz bir kavram var: AI hallucination (Yapay Zeka Halüsinasyonu).

LLM’ler eksik ya da hatalı örüntüler kurarak son derece emin ifadelerle yanlış çıktılar kurabiliyor. Bu durum çoğunlukla “yapay zekanın yumuşak karnı” olarak dikkat çekiyor.

Bence asıl soru şu:

Halüsinasyon sadece algoritmalar için bir sorun?

1.     Karar Taraftarlığı: Önce Karar, Sonra Veri

İş hayatında pek çok karar hala veri analizinden sonra değil, sezgi ve eğilimle alınıyor. Sonra da kararı destekleyen argümanlar üretiliyor.

Bir nevi tersine mühendislik.

Bu yöntemde tüm kurgu insan zihninin tutarlılığı üzerinde inşa edilir. Zira insan zihni karar sonrası değişiklik istemez. Ancak tutarlılık ile hakikat aynı şey değildir.

Şirketin diğer tüm alanlarında olduğu gibi lojistik operasyon açısından bu tür yaklaşımlar son derece tehlikelidir. Zira,

• Kapasite planlama
• Stok seviyesi
• Yeni depo yatırımı
• Rota optimizasyonu

SLA hedefleri vb. başlıklar tamamen veriye dayalı kararı gerektirmektedir.

Eğer önce karar verilip sonra buna uygun gerekçelerle veri toplanıyorsa süreç analitik değildir. Adler’in ifadesiyle, amaç ve gayelerle süslenmiş bir zihinsel kurguya dönüşür.

Bu artık teknik değil, psikolojik bir süreçtir.

2.     Operasyonel Halüsinasyon Nasıl Oluşur?

Operasyonda halüsinasyon, sonucu belirleyip denklemi sonradan kurmak gibidir. Veriler karar almak için değil, kararı desteklemek için kullanılır.

Bir üretici firmada çalışan lojistik yöneticisinin, 3PL hizmet almak yerine “Kendi ekibimizle bu işi %20 daha ucuza yaparız” kararı aldığını düşünelim.

Bu kararı aldıktan sonra seçici olarak şu verileri öne çıkarır:

• 3PL firmasından alınan ağır şartnamelerle şişirilmiş yüksek birim fiyat teklifleri (Zira maliyeti belirleyen şartnamelerdir)
• Personel maliyetinde sadece “direkt işçilik” maliyetleri
• Dış kaynak kullanımında oluşabilecek “kontrol kaybı” riskleri.

Ancak aşağıdaki görünmez maliyetler göz ardı edilir:

• İnsan Kaynakları Yükü: Kıdem, ihbar, yıllık izin karşılıkları, işe iade davaları vb. maliyetler
• Genel Gider Payları: Yemek, servis, elektrik, su vb. ortak maliyetler
• Operasyonel Riskler: Stok farkları, hasarlar, eksik ürünler, cezalar vb.
• Ölçek Ekonomisi ve Esneklik: 3PL firmasının teknolojik altyapısı, diğer müşterileriyle paylaştığı ortak kaynaklar vb.

Sonuçta ne mi olur? Veri toplamanın amacı şirkete en uygun çözümü bulmak yerine yöneticinin amacına hizmet eden bir araca dönüşür

Bu noktada ortaya bir kavram çıkıyor: Koltuk Sigortası

Koltuk sigortası, bazı çalışanların kurumlar için kendisini vazgeçilmez kılmak için geliştirdiği kalkandır. Bu bazen bilgiyi tekelleştirmek, bazen karmaşıklaştırmak bazen de veriyi manipüle etmektir.

Bu da bir tür kurumsal halüsinasyondur.

3.     Yapay Zeka ile İnsan Zihni Arasındaki Paralellik

Yapay zekanın hatalı örüntüler ile verilerden kendinden emin hatalı sonuçlar çıkarmasına “Yapay Zeka Halüsinasyonu” diyoruz.

Aynı şeyi insan yaptığı zaman çoğunlukla fark etmiyoruz.

Her ikisi arasında benzer bir mekanizma var:

• Hatalı ön kabuller → “Bu depo zaten yetersiz”
• Seçici veri kullanımı → Sadece pik dönemini dikkate almak
• Alternatiflerin göz ardı edilmesi → Farklı yerleşimlere bakmamak
• Karar sonrası rasyonelleştirme → Bu zaten kaçınılmaz bir sonuçtu.

Algoritmalar bunu yapınca “model problemi” olurken insan yapınca “hata” veya “tecrübe” olarak adlandırıyoruz.

Aslında her ikisinin de ortak bir problemi var: Önce kanaati oluşturup sonra veriyi buna göre düzenlemek.

Teknolojiden mükemmeli beklerken, insandaki taraftarlığı normal kabul etmemiz ciddi bir çelişkidir.

Buradaki asıl mesele şu:

Algoritmaları denetliyoruz. Peki kendi karar süreçlerimizi ne kadar denetliyoruz?

Mini Araç: Karar Denetleme

Bir karar almadan önce ve sonra şu 5 soruyu sorun:

• Bu karar hangi ölçülebilir veriye dayanıyor?
• Karar sonrası gelen veri fikrimi değiştirebilir mi?
• Alternatif senaryolara baktım mı?
• Bu kararın tersini savunabilecek veri var mı?
• Karar mı verdik, yoksa kararımıza veri mi aradık?

Eğer bu soruların cevapları net değilse, risk alanındasınız.

Sonuç

Algoritmalarla,

• Rotalar optimize edilir.
• Stok doğruluğu artırılır.
• Maliyet görünürlüğü sağlanır.

Ancak hiçbir sistem zihinsel taraftarlığı tek başına ortadan kaldıramaz.

Zihinsel dönüşüm olmadan dijital dönüşüm dahil hiçbir dönüşüm başarılı olamaz.