Üsküdar Üniversitesi SBF Dekan Yardımcısı, Yapay Zekâ Mühendisliği Yüksek Lisans Programı Anabilim Dalı Başkanı Dr. Öğr. Üyesi Nuri Bingöl, yapay zeka modellerinin getirebileceği olası riskleri ve nasıl kontrol altına alınabileceğini anlattı. Yapay zekânın kontrol edilmesi gereken döneme yaklaşıldığına dikkat çeken Dr. Öğr. Üyesi Bingöl, önlem alınmazsa bu teknolojinin nükleer enerji seviyesine denk riskler taşıyabileceğini vurguladı. Yapay zeka denetiminin nasıl uygulanacağının bilinmediğine değinen Bingöl, her ülkenin kendine mevzuat ve yönetmelikleri olması gerektiğini belirtti. Her şeye muktedir yapay zeka modellerinin olası riskler taşıdığını vurgulayan Bingöl, “Kullanıcılarına büyük avantajlar sağladığı için bu kişilerin insanlığı avucunun içine alması gibi medyatik riskleri düşünmek gereksiz. Ancak çok yakında etkileriyle yüzleşmemiz gereken birçok risk ve tehlike bizleri bekliyor” dedi.
 
Sanayi devrimiyle buharlı makinelerin insanların yaptığı işleri elinden aldığını ama daha fazla iş alanı oluşturduğunu hatırlatan Bingöl, “Yapay zekâ yeni iş imkânları oluşturacak dense de genel modeller, buharlı makineler gibi insanların yaptığı işleri daha verimli yapmak için tasarlanmadı. İnsanların yapabileceği her türlü bilişsel faaliyeti yapabilmek için tasarlandılar. Yeni iş imkânı olarak gördüğümüz her şey bir süre sonra genel modeller tarafından öğrenilebilir. Sürecin hiçbir yerinde insana gerek kalmadan faaliyet gösteren işletmeler oluşabilir. Doğru yönetilmezse bu değişimin etkileri dünya üzerinde çok yıkıcı olabilir. Genel yapay zekâlar, doktorluktan avukatlığa, yazılım mühendisliğinden yöneticiliğe kadar büyük bir alanda, birçok kişinin işini elinden alabilir. Bunun yanında 7 gün 24 saat çalışıp insan meslektaşlarından çok daha ucuz bir maliyet oluşturabilir” diye konuştu.
 
Yapay zekânın diğer aşaması ‘model oluşturma ve geliştirme aşaması’ için merkezi denetimin getirdiği risklerin düşünülmesini isteyen Bingöl, bunun bir otoritece yapılmasının önemli risk olduğunu söyledi. Yapay zekânın önemli bir güç olduğunu ve etki alanının hızla arttığını belirten Bingöl, “Üretim ve kullanımının, küresel veya değil, tek elde toplanması dünya dengelerini değiştirebilir. Nükleer gücün yarattığı sorunlar ve güç dengesi üzerindeki rolü ortada. Yapay zekâda önemli gelişmelere imza atan şirketin kurucu ve yöneticilerinin yazdığı makalede, yapay zekâ teknolojilerinin sorumlu şekilde kullanılması, doğru şekilde denetlenmesi gerektiği ifade ediliyor. Denetlenmediğinde, insan hayatı ve toplum üzerinde olumsuz etkiler yaratabilecek riskler taşıyabilir. Makaleye göre, yapay zekânın uluslararası kurumlarca kontrol edilmesi gereken döneme yaklaşıldı ve yeterli önlemler alınmadığı takdirde bu teknoloji nükleer enerji seviyesine denk riskler taşıyabilecek” dedi.
 
Bingöl, şunları söyledi; “Riski azaltmak için, küresel gücün birden çok aktörün olduğu topluluğa dönüşmesi başka sorular doğuruyor. Küresel gücü temsil eden unsurlar nasıl belirlenecek? Gücün kullanımı hangi süreç ve yetkilere bağlanacak? Anlaşmazlıklar nasıl giderilecek, onay ve veto hakları nasıl adil yönetilecek? Dünya Sağlık Örgütü, Birleşmiş Milletler'e bağlı olan ve toplum sağlığıyla ilgili uluslararası çalışmalar yapan saygın ve kabul gören bir örgüt. Ancak, COVID-19 pandemisinde, dünya üzerindeki toplumların tamamının acil sağlık hizmetlerinden yararlanabilmesine ne derece katkı sağlayabildi? Pandemi döneminde aşı geliştirme gücünü elinde bulunduran devletler, dünya dengesi üzerinde etkili oldularsa hangi güç bunu nasıl kullandı? Görüldüğü gibi, yapay zekâ denetim ve sınırlandırmalarına çözüm olmasını beklediğimiz küresel otorite modeli, günümüzde başka konularda tecrübe ettiğimiz modellerin bütün sorunlarına çare olamadı. Yapay zekâ kadar güçlü bir teknolojinin iyi yönetilmediği taktirde daha fazla soruna ve güç dengesizliğine yol açabileceği ortada.”
 
Denetim ve sınırlandırmaların, küresel bir güce bağlı tek merkeze bağlı ‘devre kesici’ gibi yapılar olmak zorunda olmadığını aktaran Bingöl, “Çeşitli standartları, çalışma ve iz bırakma çerçevelerini, yetki denetimi alt yapılarını içeren, açık ve şeffaf denetlenebilir düzenlemeler, yasalar ve mevzuatlar olarak düşünülebilir. Rol ve sorumluluklar yasa ve mevzuatlarla düzenlenebilir. Yetkiler dağıtılıp bağımsız kontroller sağlanabilir.  Kontrol dışına çıkan, tehdit ve tehlike yaratan çalışma durumlarında uyulması gereken müdahale politikaları belirlenebilir. Bu politikalar siber güvenlik prosedürlerindeki gibi önceden prova edilip denetlenebilir. Üretim ve kullanım aşamaları farklı ve bağımsız otoriteye yayılabilir. Uluslararası bir otorite ile modellerin oluşturulması ve eğitilmesi gibi süreçleri denetlemek yerine, model oluşturulduktan sonra ‘insanların hayatlarını nasıl etkiliyor ve insanlara ait hakları ihlal ediyor mu?’ konusu denetlenmeli. Yapay zekâ teknolojisi gelişimi için kaynak, ticari model ve ilgiye muhtaç. Denetim ve sınırlandırmanın getireceği yükler olacak. Yeni uyum süreçleri, zorunluluklar, süreçler finansman ve kaynak kullanımı sınırlandırmaları. Varoluşsal veya ulusal tehdit içermeyecek düzeyde yapay zekâ kapasitesine ihtiyaç duyan kurumların önünde engel oluşmamalı. Bu beklentiyi oluşturacak sınırların kim tarafından ve hangi kriterler ile belirleneceği de önemli” diye konuştu.
 
Denetim ve sınırlandırmaların nasıl uygulanacağı ile ilgili daha alınacak çok yol olduğunu ifade eden Bingöl, sözlerine şöyle devam etti; “Devlet kurumlarının, teknoloji üreticilerinin ve bu konunun fikir öncülerinin beraber çalışması ve çözüm üretmesi gerekir. Çözümlerin, gelişim önünde engel olmadan ‘nasıl’ uygulanacağı önemli ama bir yanıtı yok. Uluslararası otorite oluşma fikri, bu yanıt bulduğunda anlam taşıyacak. Uluslararası otoritenin yetkilerinin bireysel, ulusal ve küresel güç sahibi firmalar ile nasıl uyumlanacağı, kullanacağı denetim mekanizmaları ve yetkileri netleşecek. Küresel otoriteden çok her ülkenin veya birliğin, temel prensip ve uyuma sadık kalarak uyarlayabileceği mevzuat ve yönetmelikleri olması gerekir. Karşılıklı yükümlülükler üzerine denge inşa edilmesi ülkemiz açısından da önemli riskleri bertaraf ederek, avantajlar getirir. Türkiye, birçok uluslararası organizasyon ve düzenlemelere tabi olduğunu, bunların getirdiği yükümlülüklere, bağımsızlığı ve güvenliğinden taviz vermeden uyum sağlıyor ve taahhütlerini yerine getirebiliyor. Ülkemiz bunu sağlamak için gerekli resmi, kamu ve özel kurumu, üniversite ve Ar-Ge merkezleri, sivil toplum örgütlerine sahip. Bunlar arasında eşgüdümü sağlayacak mevzuatları oluşturma tecrübe ve kapasitesi var. Küresel alanda Türkiye bu organizasyonların tam ortasında olmak zorunda. Güç dengesini korumak ve söz sahibi olmak üzere son yıllarda oldukça gelişmiş yapay zekâ teknolojilerini üretmesi, kullanması, geliştirmesi ile bunu hak ediyor. Adalet, hak ve hukuk konularında da yapay zekâ üzerinden öncü rolü üstlenmeli.”