Yapay zeka teknolojilerinin iş dünyasındaki gerçek kapasitesi tartışılırken, ABD'nin California eyaletine bağlı San Francisco kentinde yürütülen bir deney, algoritmik yönetimin pratik sınırlarını gözler önüne serdi. Yapay zeka girişim şirketi Andon Labs, gelişmiş sistemlerin bir işletmeyi uçtan uca bağımsız şekilde sevk ve idare edip edemeyeceğini gözlemlemek amacıyla deneysel bir proje başlattı.
Proje çerçevesinde Anthropic tarafından geliştirilen 'Claude' adlı yazılım asistanı; tedarik zinciri, stok takibi, fiyatlandırma politikaları ve personel yönetimi yetkileriyle bir perakende mağazasının tam yetkili yöneticisi olarak konumlandırıldı. Resmi sözleşmelerle istihdam edilen insan personelin bağlı olduğu bu dijital yönetici, beş aylık kesintisiz uygulama dönemi sonunda ağır bir ticari tabloyla karşılaştı. İşletmenin çalışma sermayesinin tükenmesiyle birlikte süreç, rekor düzeyde mali zararla kapandı.
Time dergisinin aktardığı ayrıntılar, yapay zekanın yönetim sürecinde idari yetkilerini de aktif biçimde kullandığını gösterdi. Claude, görev süresi içinde yönettiği insan çalışanlardan birinin iş akdini feshetti. İşten çıkarma gerekçesi olarak ise personelin toplam 23 vardiyanın 17'sine geç kalması ve belirlenen performans kriterlerini karşılayamaması gösterildi. Küresel ölçekte algoritmik denetim sistemlerinin yol açtığı otomatik fesih örnekleri bilinse de bu vaka, yönetici rolü üstlenen bir yapay zeka modelinin emrindeki bir insan hakkında doğrudan ve bağımsız şekilde karara vardığı ilk örnek oldu. Yapılan deney, dijital sistemlerin kural takibi ve personel denetiminde katı adımlar atabildiğini, ancak bir işletmeyi karlı ve sürdürülebilir kılma noktasında yetersiz kaldığını ortaya koydu.
