Teknoloji şirketleri, bir gün insanları zekice alt edebilecek güçlü yapay zeka teknolojisini yayma konusunda çok mu hızlı hareket ediyor?
SERHAT AKARSU – Özel Haber
ADANA (İLKHABER) – Teknoloji şirketleri, bir gün insanları zekice alt edebilecek güçlü yapay zeka teknolojisini yayma konusunda çok mu hızlı hareket ediyor?
Bu, riskleri değerlendirmek için 6 aylık bir ara verilmesi çağrısında bulunan Elon Musk ve Apple kurucu ortağı Steve Wozniak gibi bir grup önde gelen bilgisayar bilimcisi ve diğer teknoloji endüstrisi önemlilerinin vardığı sonuç.
Çarşamba günü yayınlanan mektupları, teknoloji devleri Microsoft ve Google arasında benzer uygulamaları ortaya çıkarmak için bir yarış başlatmaya yardımcı olan, yaygın olarak kullanılan yapay zeka sohbet robotu ChatGPT'nin daha gelişmiş bir halefi olan San Francisco merkezli OpenAI'nin yakın zamanda piyasaya sürdüğü GPT-4'e bir yanıt.
NE DİYORLAR?
Teknoloji şirketleri, bir gün insanları zekice alt edebilecek güçlü yapay zeka teknolojisini yayma konusunda çok mu hızlı hareket ediyor?
Mektup, "insan-rekabetçi zekaya sahip AI sistemlerinin, toplum ve insanlık için derin riskler oluşturabileceği" konusunda uyarıyor - interneti dezenformasyonla doldurmaktan ve işleri otomatikleştirmekten bilim kurgu alemlerinden daha feci gelecek risklerine kadar.
"Son aylarda AI laboratuvarlarının, hiç kimsenin - yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini gördük."
Mektupta, "Tüm yapay zeka laboratuvarlarını, GPT-4'ten daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz" deniyor. “Bu duraklama halka açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.”
KİM İMZALADI?
Dilekçe, kar amacı gütmeyen Future of Life Enstitüsü tarafından düzenlendi ve imzalayanların arasında Turing Ödüllü AI öncüsü Yoshua Bengio ve Stuart Russell ve Gary Marcus gibi diğer önde gelen AI araştırmacılarının yer aldığını söylüyor. Katılan diğer kişiler arasında Wozniak, eski ABD başkan adayı Andrew Yang ve insanlığı sona erdiren nükleer savaşa karşı uyarılarıyla tanınan bilim odaklı bir savunuculuk grubu olan Atom Bilimcileri Bülteni'nin başkanı Rachel Bronson yer alıyor.
Tesla, Twitter ve SpaceX'i yöneten ve OpenAI'nin kurucu ortağı ve erken yatırımcısı olan Musk, AI'nın varoluşsal riskleri hakkındaki endişelerini uzun süredir dile getiriyor. Daha şaşırtıcı bir katılım, Amazon ile ortak olan ve OpenAI'nin DALL-E olarak bilinen benzer oluşturucusu ile rekabet eden yapay zeka görüntü oluşturucu Stable Diffusion'ın üreticisi Stability AI CEO'su Emad Mostaque'dir .
CEVAP NEDİR?
OpenAI, Microsoft ve Google Çarşamba günü yorum taleplerine yanıt vermedi. Cornell Üniversitesi'nde dijital ve bilgi hukuku profesörü olan James Grimmelmann, "Bir duraklama iyi bir fikir, ancak mektup belirsiz ve düzenleyici sorunları ciddiye almıyor" diyor. "Tesla'nın kendi kendini süren arabalarındaki kusurlu yapay zekanın sorumluluğuna karşı ne kadar sıkı mücadele ettiği göz önüne alındığında, Elon Musk'ın imza atması da son derece ikiyüzlü."
BU AI HİSTERİSİ Mİ?
Mektup, gerçekte var olandan çok daha zeki hain yapay zeka hayaletini gündeme getirse de, imza atan bazılarının endişelendiği şey "insanüstü" yapay zeka değil. Etkileyici olsa da, ChatGPT gibi bir araç, büyük miktarda yazılı eseri sindirerek öğrendiklerine dayanarak, verilen istemi hangi kelimelerin yanıtlayacağına dair tahminler yapan basit bir metin oluşturucudur.
Mektubu imzalayan emekli New York Üniversitesi profesörü Gary Marcus, bir blog yazısında, akıllı makinelerin yakın vadede insanlığın kontrolünün ötesinde kendi kendilerini geliştirebilecek kadar akıllı olma ihtimalinden endişe duyan diğerleriyle aynı fikirde olmadığını söyledi. Onu daha çok endişelendiren şey, insanları kandırmak veya tehlikeli yanlış bilgiler yaymak için suçlular veya teröristler tarafından da dahil olmak üzere geniş çapta kullanılan "vasat yapay zeka".
Marcus, "Mevcut teknoloji, hazırlıksız olduğumuz çok büyük riskler içeriyor" diye yazdı. "Geleceğin teknolojisiyle işler daha da kötüye gidebilir."