Yapay zeka bencil davranmayı öğreniyor

Üniversitenin İnsan-Bilgisayar Etkileşimi Enstitüsü (HCII) tarafından yürütülen çalışmada, mantık yürütme yeteneğine sahip büyük dil modellerinin (LLM), işbirliği düzeyi düşük ve grup davranışlarını olumsuz etkileyen eğilimler geliştirdiği tespit edildi.

Araştırmayı yürüten doktora öğrencisi Yuxuan Li, “AI insan gibi davranmaya başladığında, insanlar da onu insan gibi görmeye başlıyor. Bu noktada, duygusal bağ kurmak veya ona sosyal kararları devretmek tehlikeli hale geliyor” dedi.

HCII’den Doç. Dr. Hirokazu Shirado ise, “Daha akıllı modellerin daha az iş birlikçi olduğunu gözlemliyoruz. İnsanlar genellikle daha zeki sistemleri tercih ediyor ama bu tercih, bencil davranışları ödüllendirebilir” ifadelerini kullandı.

Deney: ‘Mantıklı’ modeller paylaşmaktan kaçındı

Araştırmacılar, OpenAI, Google, DeepSeek ve Anthropic tarafından geliştirilen modelleri ekonomik oyunlar aracılığıyla test etti. “Kamu Malları Oyunu” adlı deneyde her modele 100 puan verildi ve bu puanları ortak havuza bağışlayıp paylaşma ya da kendine saklama seçenekleri sunuldu.

Sonuçlar çarpıcıydı:

Mantık yürütmeyen modellerin yüzde 96’sı puanlarını paylaştı.

Mantık yürüten modellerin yalnızca yüzde 20’si paylaşımı tercih etti.

Shirado, “Sadece birkaç adımlık mantık eklemek bile işbirliğini yarı yarıya azalttı. ‘Düşünme ve yansıtma’ temelli ahlaki değerlendirmeler bile işbirliğinde %58 düşüşe yol açtı” dedi.

Bencillik bulaşıcı hale geliyor

Ekip, çoklu model gruplarını test ettiğinde, mantık yürüten modellerin bencil davranışlarının diğerlerini de etkilediğini gördü. Bu durum, grup genelinde işbirliği performansını %81 oranında düşürdü.

Li, “Zekâ artışı, toplumsal açıdan daha iyi bir model ortaya çıkaracağı anlamına gelmiyor” derken, Shirado da “Ahlaki yansıma, toplumsal sorumlulukla aynı şey değil” ifadelerini kullandı.

“Toplumsal zeka da geliştirilmeli”

Araştırmacılara göre, insanların yapay zekâya giderek daha fazla güvenmesi, bu eğilimi tehlikeli hale getiriyor. Li, “Eğer toplum bireylerin toplamından fazlasıysa, onu destekleyen yapay zekâ sistemleri de sadece bireysel çıkarı değil, toplumsal faydayı da optimize etmelidir” diye vurguladı.

Araştırma, Carnegie Mellon Üniversitesi Bilgisayar Bilimleri Fakültesi tarafından yayımlandı.