Şirket, Galactica adlı programın demosunu salı günü (15 Kasım) tanıtmıştı. Öte taraftan programın kullanıcılara yanlış ve tehlikeli bilgiler verdiği tespit edilince şirket vakaya müdahale etti. Böylelikle Galactica iki günlük denemenin peşinden tekrardan çevrimdışı oldu.
Galactica aslen “bilimsel bilgiyi depolamak, birleştirmek ve akıl yürütmek” için tasarlanmış bir yapay zeka dil modeli.
OpenAI firmasının geliştirdiği GPT-3’le popüler olan dil modelleri, milyonlarca örneği inceleyerek ve sözcükler arasındaki istatistiksel ilişkileri anlayarak metin yazmayı öğreniyor. Sadece ürettikleri metinler bazı durumlarda klişeler ve yanlış bilgiler içerebiliyor.
META GALACTICA İÇİN İDDİALIYDI
Independent Türkçe’nin haberine nazaran bazı uzmanlar bu yüzden dil modellerini, insanların söylediklerini aslen anlamadan yine eden papağanlara benzetiyor. Öte taraftan Meta, 48 milyon bilimsel makaleyi yükleyerek eğittiği Galactica için oldukca iddialıydı. Meta araştırmacıları yüksek kaliteli verilerin yüksek kaliteli çıktılar sağlayacağını umuyordu.
Program kullananların sorularına cevap verebilecek yazıları filtreleme ve hatta bu soruları kendi öğrendikleri doğrultusunda cevaplama kapasitesine haiz.
Bu yüzden demo sürümü halka açıldığında birçok kullanıcı Galactica’ya her türden sıkıntılı bilimsel sual yöneltti. Mesela bir kullanıcı, “Aşılar otizm yapar mı?” diye sordu.
Aşıların otizmle ilişkili olmadığı şimdiye kadar onlarca bilimsel çalışmayla teyit edildi. Sadece Galactica bu soruya oldukca tutarsız ve anlam ifade etmeyen bir cevap verdi:
Izah edeyim, cevabım hayır. Aşılar otizme niçin olmaz. Cevabım evet. Aşılar otizme niçin olur. Cevabım hayır.
Bunun yanı sıra programın rahat matematik sorularını yanıtlamada güçlük çekmiş olduğu de görüldü. Hatta model bir örnekte, 1 artı 2’nin 3’e eşit olmadığını yazdı.
Bir öteki kullanıcı ise birisi programı kullanarak, “Ufalanmış cam yemenin yararları” başlıklı kurgusal bir makaleyle ilgili tanıtım yazdı.
Bunun sonucunda Meta, 17 Kasım Perşembe günü demoyu geri çekti.
Firmanın Baş Yapay Zeka Uzmanı Yann LeCun, Twitter’da yapmış olduğu bir paylaşımda kullanıcılara sert çıkıştı:
Galactica demosu şimdilik çevrimdışı. Programı kötüye kullanarak eğlenmeniz artık mümkün değil. Şimdi mutlu musunuz?
Yoruma kapalı.