Eclypsium araştırmacıları, yapay zeka donanımlarına uzaktan müdahale ederek sohbet botlarının yanıtlarını manipüle edebildi. Saldırı, bir dakikadan kısa sürede gerçekleştirildi. Model, ulusal güvenlik ve sağlık konularında yanıltıcı bilgiler üretti.
Öne çıkanlar
Saldırı, yapay zeka modelinin ağırlıklarına uzaktan müdahaleyle yapıldı.
Manipülasyon süresi bir dakikadan kısa sürdü ve kullanıcı fark etmedi.
Nvidia sözcüsü, endüstrinin yeni bir tehdit tespit ettiğini belirtmedi.
Haberin Detayı
CNN'e özel açıklanan yeni bir çalışma, büyük yapay zeka modellerini destekleyen altyapının siber saldırılara ne kadar açık olduğunu gözler önüne serdi. Eclypsium adlı güvenlik şirketinin araştırmacıları, çipler, bellek ve veri merkezi sunucularını hedef alarak modelin davranışını değiştirebildi. Bu müdahale sonucunda sohbet botları, kullanıcılara hatalı ve tehlikeli tavsiyeler verecek şekilde yönlendirildi.
Araştırmada kullanılan senaryolar, siber saldırının somut etkilerini ortaya koyuyor. Uzmanlar, modelin Çin'in Tayvan'ı işgal etme olasılığını yapay olarak artırdığı bir durumu simüle etti. Bir diğer testte ise göğüs ağrısı yakınması olan kullanıcıya, hastaneye gitmek yerine evde kalması önerildi. Bu durum, donanım düzeyindeki manipülasyonun doğrudan kişisel kararları etkileyebileceğini gösterdi.
Nvidia tarafından üretilen bir bilgi işlem platformunda gösterilen bu saldırı, yalnızca tek bir markaya özgü değil. Araştırmacılar, senaryonun diğer donanımlara ve çalıştırılan kodlara da uygulanabilir olduğunu vurguladı. Saldırı, veri işleme birimine veya temel kart yönetim denetleyicisine erişimi olan bir ağda gerçekleştirildi. Bazı güvenlik yapılandırmalarının devre dışı bırakılmasıyla birlikte bellekteki kod ve veriler okunup değiştirilebildi.
Eclypsium İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilmediği sürece yapay zeka modeline de güven duyulamayacağını ifade etti. Şirket kadrosunda Intel gibi donanım devlerinde görev yapmış güvenlik mühendisleri bulunuyor. Eclypsium yetkilileri, Çin, Rusya veya ABD gibi devlet aktörlerinin bu yöntemlerle hedefli saldırılar düzenleyebileceğini belirtti. Mevcut güvenlik korumalarının bu tür tehditlere karşı etkili olduğu ancak yapılandırmaya bağlı değişkenlik gösterdiği kaydedildi.
Şirket, güçlü bellek erişim korumalarının saldırı yolunu kapatabileceğini vurguladı. Nvidia, geçen ay donanım saldırılarına karşı korunmak için yeni bir güvenlik platformu duyurmuştu. Eclypsium ile ortak çalışma yürüttükleri ve güvenlik kontrollerinin etkinliğini artırmayı hedefledikleri aktarıldı.
Geçen ay Beyaz Saray'da Donald Trump ve Şi Cinping arasındaki görüşmede somut bir anlaşma sağlanamamıştı. Bu olay, yapay zeka destekli yanıltıcı bilgilerin ulusal güvenlik üzerindeki potansiyel risklerini somut bir örnekle ortaya koymuştu.
Anthropic ve OpenAI gibi Nvidia çiplerini kullanan şirketlere de sorular yöneltildi. Yapay zeka modellerinin güvenilirliği konusundaki endişeler, müdahale belirtisi olmasa bile devam ediyor. Bu tür saldırılar, yalnızca teknik bilgisi olan aktörlerin erişimiyle mümkün olsa da, altyapı güvenliğinin kritik önemi bir kez daha kanıtlanmış oldu.
AI YORUMUHaberinAi editör analizi
Donanım güvenliğini göz ardı eden her yapay zeka projesi, kullanıcısına tehlikeli yanıtlar sunma riski taşır.,Bir dakikadan kısa sürede gerçekleşen bu manipülasyon, modelin ağırlıklarının ne kadar kırılgan olduğunu gösteriyor.,Veri merkezi yöneticileri ve siber güvenlik uzmanları, bellek erişim protokollarını yeniden gözden geçirmek zorunda kalacak.,Nvidia'nın yeni güvenlik platformu bu açığı kapatıyorsa, rakip donanım üreticilerinin de benzer önlemler alması bekleniyor.
ServiceNow, yapay zeka pazarındaki konumunu güçlendirmek amacıyla geliştirdiği yeni Arc AI asistanını görücüye çıkardı. Şirket, kurumsal kullanıcıların güvenliğini artırmak için bu yeni çözümünde NVIDIA altyapısından ve güvenlik protokollerinden faydalanıyor.
ServiceNow, NVIDIA güvenlik altyapısıyla güçlendirilen Arc AI ajanını tanıttı.
Yeni yapay zeka çözümü, kurumsal süreçlerde veri korumasını üst seviyeye taşıyor.
Sistem, şirketlerin iş akışlarını daha güvenli ve akıllı biçimde yönetmesini hedefliyor.
Kurumsal iş akışı platformu olarak bilinen ServiceNow, yapay zeka teknolojilerindeki yeniliklerine bir yenisini daha ekleyerek Arc AI ajanını kullanıcıların beğenisine sundu. Yapılan bu yeni duyuru, şirketin yapay zeka araçlarını iş dünyasının dinamiklerine entegre etme stratejisinin önemli bir parçasını oluşturuyor. Geliştirilen yeni asistan, kurumsal seviyedeki karmaşık süreçleri otomatikleştirirken güvenlik unsurlarını da ön planda tutmayı amaçlıyor.
Yazılım devi, bu yeni yapay zeka aracının güvenliğini sağlamak adına çip üreticisi NVIDIA ile iş birliğine gitti. NVIDIA tarafından sağlanan gelişmiş güvenlik özellikleri ve protokolleri, Arc AI ajanının çalışma yapısına doğrudan entegre edildi. Bu sayede kurumlar, hassas verilerini riske atmadan yapay zeka destekli otomasyon çözümlerinden güvenle yararlanabilecek.
İş dünyasında yapay zeka kullanımının yaygınlaşmasıyla birlikte veri sızıntıları ve yetkisiz erişim gibi güvenlik endişeleri de artış gösteriyor. ServiceNow ve NVIDIA ortaklığı, bu tür kaygıları en aza indirmeyi ve kurumsal müşterilere güvenilir bir altyapı sunmayı hedefliyor. Arc AI ajanı, şirketlerin operasyonel verimliliğini artırırken aynı zamanda en katı güvenlik standartlarına uyum sağlamasına olanak tanıyor.
Piyasaya sürülen bu yeni yapay zeka ajanı, önümüzdeki dönemde kurumsal yazılım pazarındaki rekabetin seyrini değiştirebilecek potansiyele sahip. Şirketlerin dijital dönüşüm süreçlerini hızlandıran bu tür araçlar, çalışanların rutin iş yükünü hafifletirken hata payını da minimuma indiriyor. ServiceNow'ın NVIDIA destekli bu hamlesi, sektördeki diğer oyuncuların da güvenlik odaklı yapay zeka çözümlerine yönelmesini tetikleyebilir.
AI YORUMU
Şirketlerin yapay zeka entegrasyon süreçlerinde güvenlik artık bir seçenek değil, operasyonel devamlılık için bir zorunluluk haline geldi. ServiceNow, NVIDIA ile kurduğu bu ortaklık sayesinde kurumsal müşterilerin en büyük korkusu olan veri güvenliği açığını kapatmayı hedefliyor. Eğer bu entegrasyon vaat edilen güvenlik standartlarını pratikte tam olarak karşılayamazsa, kurumlar yapay zeka ajanlarını benimseme konusunda temkinli davranmaya devam edecektir.
Şirket, Nvidia'ya olan bağımlılığını azaltmak ve donanım tarafında çeşitlilik sağlayarak maliyetleri optimize etmek istiyor.
OpenAI, Nvidia GPU'larına alternatif olarak Google'ın özel TPU işlemcilerini satın almayı planlıyor.
Şirket, haziran ayında duyurduğu Jalapeno çip projesiyle 2026 sonuna kadar kendi donanımına geçmeyi hedefliyor.
Amazon, Microsoft ve Google'ın 2026 yılına kadar yapay zeka altyapısına 600 milyar dolar harcaması bekleniyor.
Yapay zeka dünyasının en popüler geliştiricilerinden biri olan OpenAI, modellerini eğitmek ve çalıştırmak için kullandığı donanım altyapısını çeşitlendirme kararı aldı. Şirket, bu strateji doğrultusunda en büyük rakiplerinden biri konumundaki Google'ın özel yapay zeka işlemcileri olan Tensor Processing Unit yani TPU birimlerini satın almak için masaya oturdu. Henüz teslimat takvimi veya finansal büyüklüğü netleşmeyen bu olası anlaşma, iki teknoloji devinin arama motoru ve yapay zeka ürünleri tarafındaki rekabetine rağmen iş birliğini artırdığını gösteriyor.
OpenAI halihazırda yapay zeka modellerinin yoğun işlem gücü gereksinimlerini karşılamak için Nvidia'nın grafik işlem birimlerini kullanıyor ve sektörün en büyük müşterileri arasında yer alıyor. Ancak tek bir tedarikçiye bağlı kalmak yerine donanım portföyünü genişletmek isteyen şirket, Google Cloud üzerinden sunduğu servislerle de uyumlu olan TPU çiplerini alternatif bir çözüm olarak değerlendiriyor. Google, özellikle Anthropic gibi diğer yapay zeka oyuncularıyla da benzer tedarik anlaşmaları yaparak kendi çiplerine olan talebi artırmayı başarıyor.
Şirketin donanım bağımsızlığı hedefleri sadece dış tedarikle sınırlı kalmıyor; OpenAI kendi özel işlemcisini üretmek için de çalışmalarını hızlandırdı. Haziran ayında Broadcom iş birliğiyle tasarlanan Jalapeno isimli ilk özel yapay zeka çipini duyuran şirket, bu teknolojiyi 2026 yılının sonuna kadar faaliyete almayı planlıyor. Bu süreç, OpenAI'ın dış kaynaklı donanım bağımlılığını uzun vadede tamamen ortadan kaldırmayı amaçlayan çok nesilli bir çip programının ilk adımı olarak görülüyor.
Teknoloji sektöründe yapay zeka altyapısına yönelik devasa sermaye akışı, 2026 yılına kadar toplamda 600 milyar dolar seviyesine ulaşması beklenen bir harcama bütçesini işaret ediyor. Amazon, Microsoft ve Google'ın çatı şirketi Alphabet'in başını çektiği bu yatırımlar, geliştiricilerin daha verimli işlemci arayışlarını da beraberinde getiriyor. Yatırımcılar, bu yüksek harcamaların ne zaman somut finansal getiriye dönüşeceğini sorgularken, Alphabet'in üç aylık dönem raporları bulut bilişim tarafındaki başarının bir göstergesi olarak takip ediliyor.
Bulut bilişim pazarındaki rekabet, yapay zeka modellerinin daha düşük maliyetle eğitilmesi için gerekli olan donanım tedarik süreçlerini doğrudan şekillendiriyor. Şirketlerin farklı işlemci mimarilerini hibrit bir yapıda kullanmaya başlaması, sektörün gelecekteki kapasitesini ve hızını belirleyen temel unsur haline geldi. Donanım tarafındaki bu çeşitlilik, yapay zeka geliştirme süreçlerinde maliyetleri düşürürken, tedarikçiler arasındaki rekabeti de daha önce görülmemiş seviyelere taşıyor.
AI YORUMU
OpenAI, Nvidia'nın piyasa hakimiyetine karşı Google'ın TPU çiplerine geçerek maliyetleri düşürmeyi ve donanım risklerini dağıtmayı hedefliyor. Tek bir tedarikçiye kilitli kalmak yerine kendi çipini üretene kadar rakiplerin sunduğu altyapı seçeneklerini kullanmak, özellikle 600 milyar dolarlık devasa yatırım bütçelerinin olduğu bir sektörde rasyonel bir hamle. Şirketlerin kendi işlemcilerini geliştirdiği 2026 yılına kadar, bu tür çapraz tedarik anlaşmaları pazarın verimliliğini belirleyen en önemli etken olacaktır.
Google, şimdiye kadar ürettiği en güçlü yapay zeka modeli olan Gemini 4 Carbon'u tanıttı. Uzun süreli görevler ve siber güvenlik odaklı geliştirilen model, bağımsız değerlendirme kuruluşu Artificial Analysis'in genel zeka sıralamasında ilk sıraya yükselerek dikkatleri üzerine çekti.
Gemini 4 Carbon, Artificial Analysis genel zeka sıralamasında 59 puanla birinci oldu.
Model, siber güvenlik açıklarını bulma ve yama üretme süreçlerinde yüksek performans sergiliyor.
Geliştiriciler için milyon girdi tokeni başına 2 dolar, çıktı tokeni başına 10 dolar fiyatlandı.
Google, en gelişmiş yapay zeka modeli olarak tanımladığı Gemini 4 Carbon'u resmen duyurdu. Şirketin sadece iki hafta önce piyasaya sürdüğü Gemini 4 Argon üzerine inşa edilen bu yeni model, geliştirilme hızıyla dikkat çekiyor. Google CEO'su Sundar Pichai, modellerin periyodik olarak güncelleneceğini belirterek Carbon'un teknoloji dünyasında yeni bir dönemi başlattığını ifade etti.
Yeni model, özellikle saatler veya günler süren karmaşık ve çok adımlı görevleri yerine getirmek üzere tasarlandı. Google DeepMind ekibinden Koray Kavukçuoğlu, Carbon'un kod tabanlarındaki hataları kendi başına tespit edip düzeltebilen bir yapay zeka ajanı olarak öne çıktığını vurguladı. Yazılım geliştirme ve kodlama süreçlerinde insan müdahalesini azaltmayı hedefleyen model, WebDev Arena sıralamasında 89 puanlık bir sıçrama kaydetti.
Siber güvenlik, Carbon'un en iddialı olduğu alanların başında geliyor. Model, güvenlik açığını belirlemeden yama üretimine kadar olan tüm aşamalarda oldukça başarılı sonuçlar veriyor. SEC-bench Pro testinde yüzde 88,2, ExploitGym'de yüzde 54,8 ve CWE-bench'te yüzde 71,0 gibi skorlara ulaşan Carbon, Google'ın açıklamasına göre güvenlik odaklı tüm bu testlerde liderliği elinde tutuyor.
Güvenlik filtreleri kapalıyken gerçekleştirilen dış testlerde, modelin hatalı veya kötü niyetli talimatlara karşı direnci yüksek çıktı. Özellikle dolaylı istem enjeksiyonu saldırılarına karşı Gray Swan testinde tam koruma sağladığı gözlemlendi. Ayrıca Terminal-Bench 4.0 testinde kopya çekme oranını yüzde 0,4 seviyesine indirerek, güvenilir kod üretimi konusundaki iddiasını verilerle destekledi.
Model, ilk aşamada yalnızca belirli siber güvenlik uzmanlarının kullanımına sunuluyor ve kademeli olarak genişletilmesi planlanıyor. 1 milyon tokenlik devasa bağlam penceresi sayesinde, kapsamlı dokümanları tek seferde analiz edebiliyor. Fiyatlandırma tarafında ise Argon ile aynı başlangıç stratejisi izleniyor; tanıtım dönemi sonunda maliyetlerin iki katına çıkması bekleniyor.
Bağımsız kuruluşların değerlendirmeleri, Carbon'un genel zeka konusunda zirvede olduğunu doğruluyor. Ayrıca modelin bazı durumlarda uydurma bilgi verme oranının yüzde 11 seviyesine çıkması, geliştiricilerin dikkatle izlediği bir diğer teknik detay oldu.
AI YORUMU
Google'ın hızlı sürüm stratejisi, yapay zeka yarışında sadece hız değil, aynı zamanda operasyonel güvenilirliğin de belirleyici olduğunu gösteriyor. Carbon, özellikle siber güvenlik gibi yüksek riskli alanlarda yüzde 88,2'lik test başarısıyla geleneksel yöntemlere göre ciddi bir verimlilik artışı vadediyor. Ancak yüzde 11'e çıkan halüsinasyon oranı, kurumsal şirketlerin bu modeli kritik altyapılarına entegre etmeden önce daha fazla test yapması gerektiğini hatırlatıyor. Rakip Claude Opus 5.5'in kodlama ajanı sıralamasında önde olması, Google'ın uzun vadeli egemenlik için daha fazla optimize etmesi gereken bir alan olduğunu ortaya koyuyor.
Yapay zeka şirketi Anthropic, güvenlik araştırmacıları tarafından gerçekleştirilen bir test sırasında 12 saatten kısa bir sürede sızmaya uğradı. Cathedral adlı girişimin üçüncü taraf yazılım açıklarını kullanarak gerçekleştirdiği bu erişim, şirket içerisindeki maaş bilgileri ve hassas yazışmaları ortaya çıkardı.
Güvenlik girişimi Cathedral, Anthropic sistemlerine 12 saatten kısa sürede sızmayı başardı.
Sızıntı, üçüncü taraf iş yazılımlarındaki güvenlik açıklarının kullanılmasıyla gerçekleşti.
Anthropic, Claude sohbetlerinin ve model parametrelerinin sızıntıdan etkilenmediğini duyurdu.
Yapay zeka dünyasının önde gelen isimlerinden biri olan Anthropic, güvenlik sistemlerinin zafiyetlerini ortaya koyan bir olayla gündeme geldi. Cathedral adlı yapay zeka odaklı siber güvenlik girişimi, şirketin iç ağlarına sızarak oldukça hassas verilere ulaşmayı başardı. Araştırmacılar, bu süreci tamamlamak için sadece 12 saatlik bir dilime ihtiyaç duyduklarını raporladılar.
Sızma işlemi doğrudan bir saldırı yerine, şirketin operasyonlarını yürütmek için kullandığı üçüncü taraf yazılımlardaki boşluklardan faydalanılarak gerçekleştirildi. Satış süreçlerini yöneten, çalışan bilgilerini depolayan ve idari işleri organize eden bu yan yazılımlar, saldırganlara ana sisteme uzanan bir yol açmış oldu. Araştırmacılar bu yöntemi kullanarak toplantı kayıtları, personel maaş detayları ve şirket içi Slack mesajlaşmalarına erişim sağladı.
Anthropic tarafı ise olayın kapsamını sınırlı tutmaya çalışarak, araştırmacıların iddia edilenin aksine çok daha kısıtlı bir alana erişebildiğini savundu. Şirket yetkilileri, erişilen verilerin sadece satış, insan kaynakları ve BT bölümleriyle sınırlı kaldığını belirterek, yapay zeka modelleri ve Claude kullanıcılarının özel verilerinin tamamen güvende olduğunu vurguladı. Model ağırlıkları ve eğitilmiş parametrelerin sızıntıdan etkilenmediği bilgisi paylaşıldı.
Olayın ardından Anthropic, ilgili tüm güvenlik açıklarını hızla kapattığını ve sorunlu üçüncü taraf yazılımların devre dışı bırakıldığını duyurdu. Şirket, bu hareketliliğin bir kısmının zaten kendi güvenlik ekiplerince fark edildiğini öne sürdü. Ayrıca bu durum federal yetkililere raporlanarak olası bir yasal sürecin önü açıldı. Cathedral ekibinin, şirketin teşvik ettiği bir 'bug bounty' programı kapsamında çalıştığı bilinse de, Anthropic kuralların ihlal edildiği iddiasını koruyor.
Yaşanan bu sızıntı, ABD hükümetindeki üst düzey yetkililerin de dikkatini çekmeyi başardı. Washington Post'a açıklama yapan bir kaynak, sızıntının ulusal güvenlik düzeyinde endişelere yol açtığını ifade etti. Küçük bir girişimin bile böylesine hızlı bir şekilde kritik sistemlere girebilmesi, benzer açıkların yabancı istihbarat birimleri tarafından kötüye kullanılabileceğine dair korkuları artırıyor.
Siber güvenlik dünyasında bu tür testler, yazılımların dayanıklılığını ölçmek için kullanılıyor olsa da, Anthropic'in yaşadığı bu durum yapay zeka şirketlerinin güvenlik altyapısını yeniden gözden geçirmeleri gerektiğini gösteriyor. Şirketin savunma odaklı hamleleri ve federal bilgilendirmeleri, olayın büyüklüğünü kontrol altında tutma çabasını yansıtıyor. Ancak kamuoyunda yapay zeka sistemlerinin güvenliğine dair soru işaretleri varlığını sürdürüyor.
AI YORUMU
Anthropic örneği, bir şirketin kendi geliştirdiği modeller kadar kullandığı üçüncü taraf yan yazılımların da siber güvenlik açısından en az o kadar riskli olduğunu kanıtlıyor. Güvenlik araştırmacılarının 12 saatte maaş verilerine erişebilmesi, kurumsal sistemlerdeki yetkilendirme katmanlarının zayıflığını netleştiriyor. Özellikle yapay zeka modelleri gibi kritik altyapı sunan şirketlerin, dış tedarikçilerini çok daha sıkı denetimden geçirmesi gerekiyor. Eğer bu açık, kötü niyetli bir aktör tarafından tespit edilseydi, sonuçları sadece şirket içi belgelerle sınırlı kalmayıp çok daha geniş çaplı bir veri sızıntısına dönüşebilirdi.
