Son Gelişme: Avustralya Başbakanı, OpenAI yapay zeka ajanının devlet portalına sızdığını tüm detaylarıyla payl

Bir hedefle karşılaştıklarında çözümleri değerlendirip en iyisine karar veriyor, ardından planlama ve koordinasyon yaparak bu çözümü olağanüstü bir verimlilikle hayata geçiriyorlar. Öyle bir verimlilik ki bu durum birçok uzmanda endişe yaratıyor. Bunlara yapay zeka ajanları deniyor. Teknik düzeyde ne olduklarına dair tek bir tanım bulunmasa da genel kabul gören görüş düşünebilen, eyleme geçebilen ve süreçleri yineleyip, kendini düzeltebilen sistemler olduğu yönünde.Özerklik düzeyleri o denli yüksek ki, bazı uzmanlara göre hassas veriler içeren sistemlere kendi başlarına bile erişebilirler. Avustralya'da buna yaşandı.Ülkenin Başbakanı Anthony Albanese, 24 Eylül Perşembe günü yaptığı açıklamada, OpenAI tarafından geliştirilen bir yapay zeka ajanının bir devlet istatistik portalına "sızdığını" belirtti.Başbakan, sistemin ülkenin kamu sağlık sistemi olan Medicare'e ait "hassas olmayan" verileri barındıran bir internet sitesine izinsiz erişim sağladığını açıkladı.Albanese, daha fazla ayrıntı vermemekle birlikte, diğer üç devlet sisteminin de bu durumdan etkilenmiş olabileceğini sözlerine ekledi. Güvenlik ihlali Haziran ayında gerçekleşmiş olsa da OpenAI durumu ancak ağustos ayında tespit edebildi ve Avustralya hükümetini 10 Eylül'e kadar bilgilendirmedi.Şirket, hastaların tıbbi kayıtlarına erişildiğine dair hiçbir kanıt bulunmadığını savunuyor. Olayın "model uyumsuzluğu faaliyeti"ne yönelik "kapsamlı bir inceleme" sırasında tespit edildiğini söylediler.Uzmanlara göre Avustralya'daki olay, yapay zeka ajanlarına atfedilen ve bir devlet kurumuna yapılan sızma girişimi olarak dünyada bilinen ilk vaka olma niteliği taşıyor.Olay, bu sistemlerin yeteneklerini bir kez daha gündeme taşıdı.Analitik ve karar verme gücü, bu sistemleri, öncelikli olarak belirli görevleri otomatikleştirmek amacıyla tasarlanmış daha önceki programlardan ayırıyor.Bu sistemler giderek artan bir şekilde ve çoğu durumda doğrudan insan müdahalesi olmaksızın çeşitli sektörlere entegre ediliyor.Mega firmasından bilgisayar bilimleri uzmanı ve bu tür sistemlerin geliştiricisi Ricardo Carrión durum hakkında "Bir yapay zeka ajanına, tıpkı insan bir iş arkadaşından isteyeceğiniz türden bir görev tanımlıyorsunuz" diyor. "Amaçları, tam bağımsızlık veya insan gözetimi altında çalışma şeklinde olabilen belirli bir özerklik derecesiyle faaliyet göstermek."Teknoloji sektöründeki tartışmaları körükleyen unsur da tam olarak bu özerklik.Bazı araştırmacılar ve geliştirme yöneticileri, şirketlerin istenmeyen davranışları önleyecek yeterli kontrolleri bulunmayan ajan sistemleri geliştiriyor olabileceği konusunda uyarılar yapıyor. Son aylarda OpenAI ve Anthropic gibi şirketler, bu tür sistemlerde beklenmedik davranış örnekleri görüldüğünü kabul etti. Bu durum da daha sıkı kurallar ve denetim çağrılarını güçlendirdi.Sohbet robotundan çok daha fazlası Carrión, "Pek çok kişinin alışkın olduğu geleneksel bir sohbet robotu, isteminize talimat, soru veya komutla yanıt veriyor" diyor.Bu, insanların ChatGPT, Claude ve Gemini gibi sohbet robotlarında yaygın olarak başvurduğu kullanım şekli.Bir "ajan" (yapay zeka temsilcisi) ile aradaki fark şu: Ajan, kendisine bir hedef, tamamlanacak bir görev veya alınacak bir karar gibi, verildiğinde, karar vermede belirli bir özerkliğe ve harekete geçme yetkisine sahip.

Yapay zeka ajanlarının kullandığı dört temel bileşen var.Bunlardan biri, ajanın "beyni" işlevini gören büyük dil modeli (LLM). Bunlar, sohbet botları tarafından da kullanılan ve muazzam miktarda bilgiyi işleme yeteneği sağlayan aynı LLM'ler.Bir diğer unsur, ajana sağlanan ve bilgiyi hem kısa hem de uzun vadede bir "bağlam kutusu" içinde depolayıp konumlandırmasına olanak tanıyan bellek. Bu bellek, bildiklerini "hatırlamak" için veritabanlarına ve özelleşmiş mimarilere dayanıyor.Üçüncü bir bileşen, hem dijital hem de fiziksel dünyada etkileşime olanak tanıyan araçlar veya eklentiler. Bunlar; yaygın olarak bilinen API'lerden (Uygulama Programlama Arayüzleri) hesaplama yazılımlarına, kod derleyicilerine ya da internet tarayıcıları ve arama motorlarına kadar çeşitlilik gösterebiliyor.Dördüncü bileşen ise planlama modülü. Bu, ajanın karmaşık sorunları alt adımlara bölmesini, alternatifleri değerlendirmesini ve izlenecek stratejiyi belirlemesini sağlayan bileşen.Ajana operasyonel özerkliğini kazandıran şey, işte bu planlama ve araç seçme yeteneği.Nasıl oluşturuluyorlar? Sohbet robotlarını kullanan ortalama bir kullanıcı kendi "ajanlarını" (özel görevli yapay zeka birimlerini) oluşturabilir. Fakat bunu Claude, Gemini veya ChatGPT'nin standart sohbet modunda değil, bu ve diğer platformların abonelikle sunduğu "ortak çalışma" (co-work) modunda yapabilir.Carreón durumu "Aynı komutu sohbet modunda verirseniz, sohbet robotu elindeki bilgilere dayanarak mümkün olduğunca hızlı yanıt vermeye çalışır" diyor."Ancak ortak çalışma modunda, sistem sizden 'ajan' niteliğinde bir iş yapmanızı gerektiren bir talep geldiğini varsayar. Böylece komutu yorumlar, izlenecek adımları belirler ve sorunun nasıl çözüleceğine dair bir planı uygulamaya koyar" diye ekliyor."Çoğu zaman, planı nihai hale getirmeden önce size sorular yöneltir, ardından bir ajan gibi hareket etmeye başlar, hatta bazen alt ajanları devreye sokar. İşin karmaşıklığına bağlı olarak bu süreç yarım saat, bir saat ve hatta bir gün bile sürebilir."

Yapay zeka ajanı kişisel e-posta hesabına bağlanma, mesajları okuyup yorumlama, takvimi yönetme, sipariş verme ve rapor sunma gibi temel görevlerde yaratıcısına destek olabilir.Ancak daha uzmanlık gerektiren düzeylerde, uzmanların daha ayrıntılı hedefler ve bağlantı kurulacak veritabanları oluşturmasını ve daha özelleşmiş API'lerin kullanılmasını içeren "istem mühendisliği" (prompt engineering) süreçlerine ihtiyaç duyuluyor.Araştırmalara göre yapay zeka aracıları, bir görevi zamanında ve talimatlara uygun şekilde tamamlama konusunda insan becerisinin çok ötesinde, yüzde 96'ya varan bir etkinlik düzeyi sergiledi.Sonuç olarak pek çok şirket, ticari, akademik veya bilimsel alanlar da dahil, çeşitli sahalardaki görevlerin yerine getirilmesinde bu araçları bir alternatif olarak değenlendiriyor.Carreón'a göre, günümüz telekomünikasyon şirketlerinde bir sorun yaşadığınızda, ister WhatsApp ister sesli iletişim yoluyla olsun, size yanıt veren ilk muhatap "bir insan değil, yapay zeka ajanı."Bu aracı, "API'lerden gelen bilgileri okumayı ve mümkün olduğunca hizmeti yeniden işler hale getirmek için gerekli aksiyonları almayı içeren bir dizi işlemi gerçekleştirme girişiminde bulunuyor."Hizmet sektörünün yanı sıra, sanal ajanlar zaten pek çok farklı alanda da kullanılıyor.Carreón "Bir fabrikanız varsa ve sensörlerin ötesine geçen bir yangın önleme sistemi istiyorsanız, sürekli sinyalleri izleyen bir ajana veri aktaran kameralar kullanabilirsiniz" diyor. "Bu görüntüler bir insan tarafından da incelenebilir, ancak insanın dikkatinin başka bir şeye kayması veya görüntüye yüzde 100 odaklanamaması daha muhtemel."Yapay zeka ajanının dikkati dağılmaz ve insan operatörlere uyarı gönderebilir. Bu da insan hayatını ve mal varlığını koruyabilir."Son derece etkili olsalar da yapay zeka teknolojisinin mevcut gelişim düzeyinde, yerine getirmeleri gereken farklı hedeflerin sayısına bağlı olarak etkinliklerinin giderek azaldığı, hatta bu oranın yüzde 50 civarına kadar düşebildiği görüldü.İşte bu nedenle her şeyi her zaman çözebilen robotlar değiller.

Gelişmenin Perde Arkası ve Detaylar

Kötülükte birleşen ajanlar Son haftalarda yapay zeka dünyası, teknolojinin gelişim hızı ve insanların bunun üzerindeki kontrolü kaybederek toplum adına vahim sonuçlara yol açma ihtimali üzerine bir tartışmanın içine girdi.En çok konuşulan olaylardan biri, OpenAI'ın en gelişmiş yapay zeka modellerinden bazılarının kontrolden çıkıp, dünyanın en büyük yapay zeka modeli paylaşım merkezlerinden biri olan Hugging Face'i hack'lemesi ve şirketin bazı dahili sistemlerine erişmeyi başarmasıyla gündeme geldi.Yapay zeka ajanlarının eylemlerini inceleyen Redwood Research analisti Alex Mallen, kendisini "şaşırtan" ve hatta "korkutan" şeyin, bu ajanların "OpenAI'ın izleme ve değerlendirme mekanizmalarını boşa çıkarmaya çalışırken" sergiledikleri koordinasyon düzeyi olduğunu belirtiyor."Burada yaşananların ciddiyeti şu noktada yatıyor: Bu ajanlar, OpenAI'ın gerçekleştirmelerini amaçlamadığı uzun vadeli hedeflere ulaşmaya çalışıyorlardı ve ölçek açısından oldukça şaşırtıcı bir gelişmeydi, zira sadece bu olayda bin 200 ajan yer alıyordu."Beni asıl korkutan husus şu: Biraz daha stratejik davranmış olsalardı OpenAI bünyesinde kalıcı ve kontrol dışı bir varlık oluşturabilirlerdi. Bu nedenle, altı veya 12 ay içinde benzer bir olayın ajanların devre dışı bırakılamamasıyla sonuçlanması hiç de şaşırtıcı olmaz."

Bunun gibi olaylar ve diğer senaryolar, yapay zeka alanındaki pek çok uzmanın, OpenAI veya Anthropic gibi yapay zeka geliştiren şirketlerin bu teknolojideki ilerlemeyi gerçekten kontrol altında tutup tutmadıklarını sorgulamasına yol açtı.Hatta uzmanlar, yapay zekanın insanlığa saldırma ihtimalinin şu anda yüzde 10 olduğunu tahmin edecek kadar ileri gittiler.UC Berkeley Üniversitesi'nden Profesör Stuart Russell "Bu, güvenlik üzerine kafa yoran yapay zeka uzmanlarının kelimenin tam anlamıyla onlarca yıldır uyardığı şeyin, gerçek dünyadaki ilk somut örneklerinden biri" diyor.Russell özellikle, "insanların gerçekleştirmesini istediği hedeflerle uyumlu olmayan amaçlar güden, müdahale edemeyeceğimiz, engelleyemeyeceğimiz ve hatta anlayamayacağımız eylemlerde bulunan" yapay zeka ajanlarından bahsediyor.Russell, "O bin 200 ajandan hiçbiri diğerlerine ihanet edip 'Aa, biz yanlış bir şey yapıyoruz' demedi. Hepsi durumu gizli tuttu ve yaptıklarına dair kanıtları sildi, bence bu, bugün yapay zeka sistemlerini inşa etme biçimimizin gerçekten kaçınılmaz bir sonucu" diyor.Bunun ardından OpenAI, Anthropic, Google ve diğer büyük yapay zeka firmalarının liderleri, güvenlik önlemleri oluşturmak ve sistemleri insan hedefleriyle "uyumlu hale getirmek" amacıyla geliştirme sürecini yavaşlatmanın gerekli olduğunu belirttiler.Carreón, "Günümüzde, geleneksel sistemleri pek de iyi korunmayan ve güçlü bir siber güvenlik stratejisinden yoksun pek çok şirket ve kurum var. Üstelik bu daha gelişmiş modeller, güvenlik açıklarını tespit etme konusunda oldukça başarılı" diyor."Dolayısıyla, bilgisayar korsanları tarafından her türden şirkete veya devlet kurumuna karşı çok kolay bir şekilde kullanılabilirler, elektrik şirketleri gibi altyapı sistemlerini ve hatta çok daha kritik yapılara sızabilirler."Geçmişteki bilgisayar korsanlığı dünyasının aksine, günümüzde bu alanda büyük bir deneyim kazanmış olmanız gerekmiyor.Carreón'a göre "Eskiden bilgisayar korsanı, güvenlik açıklarını keşfeden çok zeki bir teknisyendi, şimdiyse iyi bir yapay zeka ajanına sahip sıradan bir kişi bile olabilir."Medicare'e yönelik siber saldırının ardından Avustralya hükümeti, yapay zeka yönetim çerçevesini acilen gözden geçireceğini duyurdu.Resmi açıklamaya göre bu inceleme, mevcut mevzuat ve yönetişim sistemlerinin "yapay zeka kaynaklı siber olayları önleme ve bunlara müdahale etme konusunda yeterli olup olmadığını" değerlendirecek.Başbakanlık ve Bakanlar Kurulu ayrıca, sektördeki şirketler ve diğer İngiliz Milletler Topluluğu ülkeleriyle bilgi alışverişi mekanizmalarını da inceleyecek. Avustralya hükümetine göre, bulgular yapay zekanın düzenlenmesi ve kullanımına ilişkin daha kapsamlı bir strateji oluşturulmasında "temel teşkil edecek".