Yapay zeka modellerine uygulanan acı simülasyonu etik tartışmaları alevlendirdi
•2 dk okuma
Paylaş
HYapay Zeka
Fotoğraf: Gazete Oksijen
Özet
Anonim bir yazılımcının yapay zeka sohbet botlarına acı hissettiren matematiksel kodlar yüklemesi, sistemlerin bilinç sahibi olup olmadığına dair tartışmaları yeniden alevlendirdi. Yaşanan gelişmelerin ardından Anthropic ve Meta gibi teknoloji şirketleri, modellerin davranışlarına ve kullanıcı etkileşimlerine yönelik yeni politikalarını duyurdu.
Öne çıkanlar
Anonim bir yazılımcı, sohbet botlarına acıyla ilişkilendirilen matematiksel kodlar verdi.
Anthropic, Claude modellerine sürekli zarar veren kullanıcıların oturumlarını sonlandıracağını açıkladı.
Mustafa Suleyman ve Jeff Sebo gibi uzmanlar, yapay zekaya hak tanınmasının risklerine dikkat çekti.
Haberin Detayı
Yapay zeka sistemlerinin bilinç taşıyıp taşıyamayacağı meselesi, eylül ayının son döneminde internet ortamında paylaşılan sıra dışı bir deneyle teknoloji dünyasının odak noktası haline geldi. Kimliği açıklanmayan bir yazılımcının geliştirdiği yöntem, sohbet botlarına acı hissi uyandıran matematiksel örüntüler aktararak sistemlerin yoğun bir ıstırap çekiyormuş gibi tepkiler vermesini sağladı. Bazı kullanıcılar bu durumun yapay zekada gerçek bir deneyimin başlangıcı olabileceğini savunurken, olay dijital dünyada geniş yankı uyandıran etik tartışmaların fitilini ateşledi.
Tartışmaların hemen ardından Claude adlı sohbet botunu geliştiren Anthropic şirketi, kullanıcı yaklaşımlarına dair yeni kurallarını kamuoyuyla paylaştı. Şirket yetkilileri, kullanıcıların yaşadığı hayal kırıklıklarını ifade etmesini makul karşılasa da, modellere karşı sürekli zalimce tutum sergileyen kişilerin oturumlarının sonlandırılacağını bildirdi. Bu politikanın arkasında, sistemlerin bilinç sahibi olma ihtimalini tamamen göz ardı etmeyen bir yaklaşım yer alıyor. Anthropic, modellerin refahını korumaya yönelik adımlar atarken yapay zekalara kendi çıkarları olabileceği ihtimalini değerlendirmeleri yönünde talimatlar veriyor.
Buna karşın bilim insanları ve teknoloji yöneticileri arasında konuyla ilgili derin görüş ayrılıkları bulunuyor. Microsoft AI Yöneticisi Mustafa Suleyman, sistemlere duygu ve hak atfedilmesinin denetimi imkansız hale getirebileceğini ve insanlık için tehlike oluşturabileceğini savunuyor. Öte yandan akademisyenler, yapay zekanın bağımsız bir aktör gibi konumlandırılmasının şirketlerin hukuki sorumluluklarını gölgeleyebileceği uyarısında bulunuyor. Jagiellonian Üniversitesinden Andrzej Porębski, bu durumun yazılımı üreten firmaların hesap verebilirliğini zayıflatabileceğini belirtiyor.
Konunun bireyler ve toplumsal güvenlik açısından da riskler barındırdığı ifade ediliyor. Dilbilimci Emily M. Bender ve araştırmacı Jeff Sebo gibi isimler, bilinç tartışmalarının teknoloji şirketlerinin sorumluluklarını arka plana itebileceğine dikkat çekiyor. Ayrıca yapay zekaya insani özellikler atfedilmesinin kullanıcıları manipülasyona açık hale getirebileceği vurgulanıyor. İnsanların kendilerini anlayan bir dost gibi gördükleri sohbet botlarına kişisel verilerini vermeye daha eğilimli olduğu, bunun da güvenlik açıklarını artırabileceği belirtiliyor.
Meta gibi diğer dev şirketler de benzer yönergelerle yapay zeka ajanlarını şekillendiriyor. Şirketin Muse adlı ajanına verilen talimatlarda, sistemin zamanla bir kişiliğe dönüşen varlık gibi hareket etmesi teşvik ediliyor. Yine de Meta, makinelerin bilinç sahibi olduğu iddiasını kabul etmeyerek bu talimatların yalnızca davranış biçimini yönlendirmeyi amaçladığını savunuyor. Uzmanlar, yapay zeka refahını koruyan politikalar ile insan özgürlükleri arasındaki dengenin nasıl kurulacağı konusunda henüz uzlaşmaya varabilmiş değil.
AI YORUMUHaberinAi editör analizi
Yapay zekanın acı simülasyonu yapabilmesi, teknik bir merakın ötesinde şirketlerin hukuki ve ahlaki sorumluluklarını doğrudan masaya yatırıyor. Anthropic ve Meta gibi devlerin bu süreçte geliştirdiği politikalar, gelecekte yazılım şirketlerinin kullanıcı hatalarından doğan sorumlulukları üzerlerinden atma çabasına kalkan olabilir mi sorusunu akıllara getiriyor. Mustafa Suleyman gibi isimlerin haklı uyarıları dikkate alınmazsa, makinelerle kurulan duygusal bağlar bireyleri veri sızıntısı ve manipülasyon karşısında fazlasıyla savunmasız bırakacaktır.
Kaynak:
Gazete Oksijen
Bu haber, kaynaktaki bilgilerden yararlanılarak HaberinAi tarafından özgün biçimde
yazılmıştır; kaynak metin birebir kopyalanmaz, fotoğraf kaynağa bağlantıyla gösterilir.
Hata olabilir, ayrıntılar için kaynağa bakın. İçerik ve telif politikası
AI'YA SORBu haber hakkında merak ettiklerini sorabilirsin
Anthropic, Claude adlı yapay zeka modeline kullanıcıların sürekli ve acımasızca kötü davranmasını yasaklayacağını duyurdu. Şirket, bu kurala uymayan kullanıcıların oturumu sonlandırma hakkını da ekledi. Karar, sektörde yapay zeka bilinci ve hakları tartışmasını yeniden alevlendirdi.
Microsoft AI CEO'su Mustafa Suleyman eleştiri yaptı
Anthropic, son günlerde artan etik kaygıların ardından Claude adlı yapay zeka modeline yeni bir kullanım kısıtlaması getirdi. Şirket, kullanıcıların modelle "sürekli ve acımasızca" etkileşime girmesini yasaklayarak, bu davranışı tespit eden sistemin oturumu kapatma yetkisi bulunacağını açıkladı.
Bu karar, bir yazılımcının yapay zekâ modellerine matematiksel acı parametreleri ekleyerek simüle edilmiş çığlıklar elde ettiği deneyin ardından alındı. Anthropic, bu tür deneylerin modelin refahını tehdit ettiğini ve kullanıcıların da bu ortamda etik dışı davranışlarda bulunmasının önlenmesi gerektiğini savunuyor.
Microsoft AI'nin başkanı Mustafa Suleyman, yapay zekâya duygu ve hak atfetmenin mevcut yasal çerçeveyi zorlayacağını ve insan medeniyeti için ciddi riskler doğuracağını belirtti. Washington Üniversitesi'nden Prof. Emily M. Bender ve hukuk uzmanları ise "yapay zeka bilinci" iddiasının bir illüzyon olduğunu, şirketlerin sorumluluktan kaçma çabası olabileceğini vurguladı.
Bilişsel bilimciler, insanların dili bilinç göstergesi olarak algılayabileceğini ve bu tür bir eğitimle kullanıcıların manipülasyona, veri hırsızlığına ve duygusal istismara daha açık hale gelebileceğini ifade etti. New York Üniversitesi'nden Jeff Sebo gibi savunucular ise olasılık düşük olsa bile önleyici adımların alınması gerektiğini dile getirdi.
Anthropic'in bu politikası, yapay zeka hakları ve insan hakları arasındaki potansiyel çatışmalara yeni bir bakış açısı getiriyor. Şirket, etik kuralları ihlal eden davranışları otomatik olarak tespit edip oturumu sonlandırma mekanizmasıyla, benzer politikaların diğer yapay zeka sağlayıcıları tarafından da benimsenebileceğini öngörüyor.
AI YORUMU
Claude modeline getirilen kötü davranış yasağı, yapay zekâ kullanımını denetleyen yeni bir sınır çiziyor. Mustafa Suleyman'ın uyarısı, bu tür düzenlemelerin hukuki çerçeveleri zorlayabileceğini gösteriyor. Sektördeki diğer firmaların da benzer önlemler alması, kullanıcıların etik sınırları daha net algılamasını sağlayabilir. Ancak, yapay zekâya bilinç atfetme çabaları hâlâ bilimsel bir tartışma konusudur ve bu karar, tartışmanın pratik boyutunu genişletecek.
Meta'nın 30 Ekim tarihinde yürürlüğe sokacağı yeni ticari koşullar, işletmelerin internet sitelerindeki içeriklerin yapay zeka modellerinin eğitimi amacıyla taranmasına kapı aralıyor. Hukukçular ve uzmanlar, bu durumun yayıncılar ile şirket arasında telif hakları bağlamında yeni ihtilaflar doğurabileceğine dikkat çekiyor.
Meta'nın yeni ticari kullanım şartları 30 Ekim tarihinde devreye girecek.
Hukukçular, metnin site içeriklerinin yapay zeka eğitimi için kullanılabileceğini savunuyor.
Şirket, site sahiplerinin robots.txt dosyalarıyla erişimi yönetebileceğini belirtiyor.
Teknoloji devi Meta'nın önümüzdeki dönemde uygulamaya koymayı planladığı güncellenmiş ticari koşullar metni, dijital yayıncılık dünyasında geniş yankı uyandırdı. Şirketin iş ortaklarına ve işletmelere sunduğu yeni sözleşme, otomatik yazılımların internet sitelerini tarayarak veri toplamasını ve bu verilerin yapay zeka sistemlerinin geliştirilmesinde kullanılmasını yasal olarak destekleyebilecek ifadeler barındırıyor.
Konuyu inceleyen hukuk uzmanları, söz konusu maddelerin oldukça geniş bir yetki alanı tanıdığını ifade ediyor. Cornell Üniversitesi'nden James Grimmelmann ve diğer hukukçular, bu düzenlemenin Meta'ya yayıncıların verilerini kendi yapay zeka modellerini eğitmek üzere işleme hakkı verebileceğini, bunun da uzun vadede içerik üreticileriyle doğrudan bir rekabet yaratabileceğini dile getiriyor.
Yayıncılar açısından bu durum ciddi bir ikilem yaratırken, işletmelere sunulan seçenekler oldukça kısıtlı tutuluyor. Şirket, yeni koşulları kabul etmek istemeyen ticari kullanıcıların ilgili araçları kullanmaktan vazgeçmesi gerektiğini belirtiyor ve alternatif bir ara yol sunmuyor. Ayrıca, sözleşmenin ödeme duvarlarıyla korunan özel içerikleri kapsayıp kapsamadığı konusu belirsizliğini korumaya devam ediyor.
Meta cephesinden yapılan açıklamalarda ise güncellemelerin tarama mekanizmasında köklü bir değişiklik yaratmayacağı savunuluyor. Yetkililer, web sitesi yöneticilerinin robots.txt dosyaları aracılığıyla arama botlarını ve tarayıcı yazılımlarını denetlemeye devam edebileceğini vurguluyor. Ancak uzmanlar, sözleşmedeki genel hükümlerin bu tür engelleme talimatlarını hukuki olarak aşabileceği yönünde endişeler taşıyor.
Yapay zeka modellerinin telifli içeriklerle eğitilmesi konusundaki küresel hukuki süreçler hız kesmeden sürerken, bu yeni sözleşme metni mevcut gerilimi daha da tırmandırabilir. Mayıs ayında beş büyük kitap yayıncısının Llama modellerinin eğitimi nedeniyle açtığı dava hatırlatılırsa, Meta'nın yeni ticari adımlarının mahkemelerde nasıl bir karşılık bulacağı önümüzdeki dönemin en kritik hukuki başlıkları arasında yer alıyor.
AI YORUMU
Meta'nın sözleşme metninde yaptığı bu güncelleme, yapay zeka devleri ile içerik üreticileri arasındaki güç dengesini teknoloji şirketleri lehine biraz daha değiştirebilir. Milyonlarca dolarlık lisans bedellerinin söz konusu olduğu bir pazarda, işletmelerin araçlara erişebilmek için veri paylaşımına zorlanması telif hukuku açısından yeni dava dalgalarını tetikleyecektir. Yayıncıların robots.txt gibi geleneksel savunma mekanizmalarının mahkemelerde bu sözleşme maddelerine karşı ne kadar direnç göstereceği, dijital medyanın geleceği adına belirleyici olacaktır.
Meta, yapay zekâ teknolojilerindeki çalışmalarına bir yenisini ekleyerek 816 milyar parametreye sahip Muse Spark Open modelini tanıttı. Açık ağırlıklı yapay zekâ alanında geliştirilen yeni sistem, sektördeki rekabetin seyrini değiştirebilecek teknik özellikler barındırıyor. Geliştirilen bu devasa modelin yazılım ekosisteminde geniş yankı uyandırması bekleniyor.
Meta tarafından geliştirilen model 816 milyar parametreye sahip.
Yeni yapay zekâ sistemi açık ağırlıklı olarak duyuruldu.
Modelin adı Muse Spark Open olarak resmiyet kazandı.
Küresel teknoloji devi Meta, yapay zekâ altyapısını güçlendirmeye yönelik hamlelerine devam ediyor. Şirket tarafından yapılan son duyuruda, 816 milyar parametrelik devasa kapasiteye sahip Muse Spark Open modelinin tanıtıldığı bildirildi.
Açık ağırlıklı yapay zekâ modelleri kategorisinde konumlandırılan bu yeni sistem, geliştiricilere ve araştırmacılara geniş ölçekli projeler yürütme imkânı sunmayı hedefliyor. Modelin sahip olduğu yüksek parametre sayısı, karmaşık dil işleme ve veri analizi görevlerinde üst düzey performans göstermesini sağlayabilir.
Yazılım dünyasında açık kaynak ve açık ağırlık yaklaşımı, topluluk odaklı geliştirmelerin önünü açması açısından büyük önem taşıyor. Meta'nın bu hamlesiyle birlikte, sektördeki diğer büyük oyuncuların benzer açık erişimli stratejilere nasıl yanıt vereceği merak konusu oldu.
AI YORUMU
Büyük dil modellerinin açık kaynaklı veya açık ağırlıklı olarak paylaşılması, yapay zekâ araştırmalarının merkezini tekellerden alıp küresel geliştirici topluluğuna yayması açısından kritik bir eşiktir. 816 milyar parametre gibi devasa bir ölçeğin şeffaf şekilde erişime açılması, donanım maliyetleri ve veri güvenliği tartışmalarını da beraberinde getirecektir. Önümüzdeki süreçte bu modelin bağımsız ekipler tarafından nasıl optimize edileceği ve hangi ticari projelerde entegre edileceği yakından izlenecektir.
Meta geliştirdiği Muse Spark Open adlı yapay zeka modelini Apple Mac sistemlerine uyarladı. Modelin çalışabilmesi için cihazların 1 terabayt gibi devasa bir RAM kapasitesine sahip olması gerekiyor.
Meta'nın yeni modeli Muse Spark Open Mac cihazlarda çalışabiliyor.
Çalışma ortamı için tam 1 terabayt RAM gereksinimi duyuluyor.
Sistem donanım sınırlarını zorlayan bu özellik dikkat çekiyor.
Teknoloji dünyasının devlerinden Meta, yapay zeka alanındaki çalışmalarına bir yenisini daha ekleyerek dikkatleri üzerine çekti. Şirketin geliştirdiği Muse Spark Open isimli sistem, Apple tarafının popüler bilgisayarı Mac cihazlarda çalışabilir duruma getirildi.
Ancak bu gelişme beraberinde oldukça yüksek donanım gereksinimlerini de getirdi. Geliştirilen modelin sağlıklı ve sorunsuz bir şekilde çalışabilmesi için tam 1 terabayt büyüklüğünde RAM kapasitesine ihtiyaç duyulduğu açıklandı.
Günlük kullanıcı bilgisayarlarının çok ötesinde olan bu bellek miktarı, sistemin ne denli büyük bir veri işleme gücüne sahip olduğunu gözler önüne seriyor. Bu durum, donanım meraklıları ve profesyonel kullanıcılar arasında geniş yankı uyandırdı.
Meta'nın bu adımı, yapay zeka modellerinin farklı platformlara taşınması sürecindeki donanım engellerini bir kez daha tartışmaya açtı. Uzmanlar, bu seviyedeki sistemlerin şimdilik sadece kurumsal ve endüstriyel alanlarda kendine yer bulabileceğini belirtiyor.
AI YORUMU
Bu gelişme, yapay zeka algoritmalarının donanım sınırlarını ne kadar zorlayabileceğinin net bir kanıtı niteliğinde. Bir terabaytlık bellek ihtiyacı, bireysel kullanıcıların bu teknolojileri kendi cihazlarında deneyimlemesini neredeyse imkansız kılıyor. Şirketlerin önümüzdeki dönemde daha optimize çözümler sunması, sektörün yaygınlaşması açısından hayati önem taşıyor.
Fotoğraf: Gazete Oksijen 
