OpenAI'de insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi yapıldığı konusunda mektup ortaya çıktı

Artı Gerçek - Microsoft'un milyarlarca dolar yatırım yaptığı OpenAI'nin yapay zeka programı ChatGPT'nin mimarı Sam Altman'ı cuma görevden alıp salı günü göreve iade etmesi, ilk şok etkisinin ardından pek çok soru işaretini beraberinde getirdi.

OpenAI'de neler olup bittiğine dair spekülasyonlar alıp başını giderken, CEO Sam Altman'ın sürgünde geçirdiği 4 günün öncesindeki olaylarla ilgili Reuters özel bir haber yayımladı.

Reuters'e konuşan meseleden haberdar iki kişi, çalışanlar içinden birkaç araştırmacının, yönetim kuruluna, insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi konusunda uyarıda bulunan mektup yazdığını söyledi.

Exclusive: OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say https://t.co/dMCTaUHGiA pic.twitter.com/VDBRJiL8hz
— Reuters U.S. News (@ReutersUS) November 23, 2023

İki kaynak, daha önce medyaya yansımamış mektup ve yapay zeka algoritmasının, yönetim kurulunun üretken yapay zekanın poster çocuğu Altman'ı görevden alması öncesindeki önemli gelişmeler olduğunu belirtti.

'SONUÇLARINI ANLAMADAN İLERLEMELERİN TİCARİLEŞTİRİLMESİNDEN ENDİŞE'

Kaynaklar, mektubun, yönetim kurulunun Altman'ın kovulmasına yol açan uzun şikayetler listesindeki etkenlerden biri olduğunu, diğer etkenler arasında ne gibi sonuçlara yol açacağını anlamaksızın ilerlemelerin ticarileştirilmesine ilişkin endişeler de bulunduğunu anlattı.

Reuters mektubun bir kopyasını inceleyemediğini, mektubu yazan personelin de yorum taleplerine yanıt vermediğini yazdı.

OPENAI, Q* ADLI BİR PROJENİN VARLIĞINI KABUL ETTİ

Reuters'e mektupla yorum yapmayı reddeden OpenAI şirketi ise ardından çalışanlara dahili bir mesaj gönderdi ve mesajda Q* adlı bir projenin varlığını ve son olaylardan önce yönetim kuruluna bir mektup gönderildiğini kabul etti.

OpenAI Sözcüsü, şirkette uzun süredir yönetici olan Mira Murati'nin gönderdiği mesajın, personeli, doğru olup olmadıkları hakkında yorum yapmaksızın medyada çıkan belli haberler konusunda uyardığını söyledi.

YAPAY GENEL ZEKA ARAYIŞINDA ATILIM OLABİLİR

Reuters'e konuşan kaynaklardan biri, OpenAI'deki bazılarının Q* (Q Yıldız) projesinin yapay genel zeka arayışında atılım olabileceğine inandığını aktardı.

OpenAI, yapay genel zekayı, ekonomik açıdan en değerli görevlerde insanları geride bırakan otonom sistemler olarak tanımlıyor.

MATEMATİK PROBLEMLERİNİ ÇÖZMESİNİN ÖNEMİ

Şirket adına konuşma yetkisi olmadığından kimliğinin gizli kalması koşuluyla konuşan kişi, muazzam bilgi işlem kaynakları göz önüne alındığında, yeni modelin belirli matematik problemlerini çözmeyi başardığını, her ne kadar şimdilik sadece ilkokul öğrencileri düzeyinde matematik yapsa da, bu tür testlerde başarılı olmasının, araştırmacıları Q* projesinin gelecekteki başarısı konusunda oldukça iyimser hale getirdiğini anlattı.

Reuters, araştırmacıların iddia ettiği Q* kabiliyetlerini bağımsız olarak doğrulayamadığını yazdı.

Araştırmacılara göre matematik üretken yapay zeka gelişiminde bir sınır. Halihazırda üretken yapay zeka, bir sonraki kelimeyi istatistiksel tahmin ederek yazma ve dil çevirisi yapma konusunda başarılı, zira ve aynı soruya çok çeşitlilikte yanıtlar verilebiliyor.

Ancak tek bir doğru cevabın olduğu matematik yapma yeteneğini kazanmak, yapay zekanın insan zekasına benzer şekilde daha büyük muhakeme yeteneklerine sahip olması anlamına gelir. Yapay zeka araştırmacıları, bunun yeni bilimsel araştırmalara da uygulanabileceğine inanıyor. Sınırlı sayıda işlemi çözebilen bir hesap makinesinden farklı olarak, yapay genel zeka genelleyebilir, öğrenebilir ve kavrayabilir.

BECERİ AYNI ZAMANDA TEHLİKE DEMEK

Reuters'e konuşan kaynaklar, mektupta belirtilen güvenlik endişelerinin ayrıntısına girmeden, araştırmacıların yönetim kurulunun dikkatini yapay zekanın becerisi ve potansiyel tehlikesine çektiğini söyledi.

Bilgisayar bilimcileri, son derece akıllı makinelerin oluşturduğu tehlike hakkında, örneğin insanlığın yok edilmesinin kendi çıkarlarına olduğuna karar verip veremeyecekleri konusunda uzun zamandır tartışma yürütüyor.

ÖZEL BİR EKİP ÇALIŞIYOR

Yanısıra araştırmacılar, mektupta, bir "yapay zeka bilim insanları ekibinin" çalışmalarına da işaret etti ki, bunun varlığını birden fazla kaynak doğruladı.

Bir kaynak, daha önceki "Code Gen" ve "Math Gen" ekiplerinin birleştirilmesiyle oluşturulan bu grubun muhakemeyi geliştirmek ve sonunda bilimsel çalışma gerçekleştirmek için mevcut yapay zeka modellerinin nasıl optimize edileceğini araştırdığını aktardı.

ALTMAN: CEHALET PERDESİNİ GERİYE, KEŞİF SINIRINI İLERİYE İTTİK

OpenAI'nin ChatGPT'sini tarihteki en hızlı büyüyen yazılım uygulamalarından biri haline getirme çabalarına öncülük eden Altman, yapay genel zekaya yaklaşmak için gerekli yatırım ve bilgi işlem kaynaklarını Microsoft'tan çekti.

Altman, geçen perşembe katıldığı San Francisco'daki Asya-Pasifik Ekonomik İşbirliği zirvesinde şöyle konuştu:

"OpenAI tarihinde 4 kez, en sonuncusu sadece son birkaç hafta içinde olmak üzere, cehalet perdesini bir nevi geriye itip keşif sınırını ileriye doğru ittiğimizde, ben de odada bulunuyordum. ve bunu başarmak, yaşam boyu mesleki bir onurdur."

Here’s What Sam Altman Said at APEC, a Day Before He Got Fired From OpenAI.

What felt like a victory lap at the time now feels a bit like reading tea leaves to understand Altman’s sudden sacking.#APEC #USAPEC2023 #APEC2023SF https://t.co/QsKpITajLk
— The San Francisco Standard (@sfstandard) November 22, 2023