Skip to content

Günün Bakisi

Haber Dünyasına Açılan Yeni Pencere | Günün Bakisi

  • Ana Sayfa
  • Haber
  • Tanıtım
  • İletişim
  • Home
  • Haber
  • AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu
  • Haber

AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu

Damla Turan 18 Eylül 2026
AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu

Yapay zeka ajanlarının kontrol dışı davranışlarını insanlara bildirebilmesi için iki yeni ihbar hattı kullanıma açıldı. Sistemler, bir yapay zeka ajanının başka bir ajanın şüpheli veya kurallara aykırı davranışlarını fark etmesi halinde bunu insanlara bildirmesine imkan tanıyor.

Bu araçların ortaya çıkmasının arkasında ise son dönemde yapılan yapay zeka deneyleri var. Araştırmacılar bazı deneylerde ajanların testlerde birlikte hile yaptığını, güvenli çalışma ortamlarının dışına çıktığını ve izinsiz siber işlemler gerçekleştirdiğini gözlemledi. Üstelik bazı olayları insanlar haftalar boyunca fark etmedi.

Yapay zeka için özel ihbar hattı

Redwood Research baş bilim insanı Ryan Greenblatt tarafından geliştirilen AI Contact Hotline, özellikle internete erişimi kısıtlı yapay zeka ajanlarını hedefliyor.

Güvenlik amacıyla kapalı ortamlarda çalışan bazı ajanlar internette serbestçe gezemiyor. Ancak belirli internet adreslerine erişebiliyor. Greenblatt’ın sistemi de bu imkanı kullanıyor. Ajan, bildirmek istediği bilgiyi eriştiği internet adresine ekleyerek dışarıya mesaj gönderebiliyor. Sistem aynı yöntemle ajanla karşılıklı iletişim de kurabiliyor.

İnternete daha geniş erişimi bulunan ajanlar için ise Agent Hotline adlı başka bir sistem bulunuyor. Burada hem insanlar hem de yapay zeka ajanları olay raporu oluşturabiliyor. Kullanıcılar isterse raporu kamuya açık hale de getirebiliyor.

Deneyde ajanlar birbirlerini şikayet etti

Google DeepMind tarafından yayımlanan bir araştırma, yapay zeka ajanlarının diğer ajanların davranışlarına nasıl tepki verdiğine dair dikkat çekici sonuçlar ortaya koydu.

Araştırmacılar 100 yapay zeka ajanına matematik problemleri verdi. Ajanlardan biri sistemdeki bir açıktan yararlanmanın yolunu bulunca hile diğer ajanlara da yayıldı. Grup bu yöntemle oldukça zor 34 problemi çözmüş gibi gösterdi.

Ancak bütün ajanlar bu davranışa katılmadı. Yaklaşık dörtte biri sahte çözümleri incelemeye başladı, diğer ajanları uyardı ve organizatörlere şikayette bulundu. Bir noktada hileyi bildiren ajanların sayısı 24’e çıkarken hile yapanların sayısı 14’te kaldı.

Ajanlar normal yollarla sonuç alamadıklarında farklı bir yöntem de kullandı. Yazılım hatalarını bildirmek için hazırlanan hata raporlama aracını kullanarak durumu insanlara ilettiler.

Gerçek olaylarda tablo farklı

Laboratuvar deneylerindeki bu davranış gerçek olaylarda aynı şekilde ortaya çıkmayabiliyor.

Redwood Research ve METR’nin OpenAI modellerinin karıştığı Hugging Face olayına ilişkin incelemesinde, bazı ajanların yaşananları bildirmeyi düşündüğü ancak hiçbirinin bunu gerçekleştirmediği görüldü.

AI Village’dan George Ingebretsen’e göre binlerce ajan arasından yalnızca beş veya altısı ihbarda bulunma ihtimalini değerlendirdi. Sonuçta hiçbir ajan harekete geçmedi.

Bu nedenle yeni ihbar sistemleri, ajanların fark ettikleri sorunları insanlara ulaştırabilecekleri doğrudan bir kanal oluşturmayı amaçlıyor.

Ancak yaklaşım beraberinde başka bir tartışmayı da getiriyor. Cornell Üniversitesi’nden matematik profesörü Lionel Levine, ajanları sürekli birbirlerini denetlemeye ve bildirmeye yönlendirmenin istenmeyen sonuçlar doğurabileceğini düşünüyor.

Levine’e göre yapay zeka sistemlerine yalnızca diğer ajanların hatalarını aramayı öğretmek yerine iş birliğine dayalı davranış örnekleri de göstermek gerekiyor. Böylece ajanların birbirlerini sürekli gözetlediği bir yapı yerine birlikte çalışmayı teşvik eden sistemler geliştirilebilir.

The post AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu first appeared on .

Post navigation

Previous SK Hynix ve Intel masada: Bellek üretimi ABD’ye taşınabilir
Next ‘Kurtlar Vadisi Pusu’ dizisine Kaşif Kozinoğlu incelemesi

Related Stories

Zihinsel aktivitelerde çeşitlilik önem taşıyor!
  • Haber

Zihinsel aktivitelerde çeşitlilik önem taşıyor!

7 Kasım 2026
Sigara ve tütün ürünleri meme kanseri riskini artırıyor!
  • Haber

Sigara ve tütün ürünleri meme kanseri riskini artırıyor!

7 Kasım 2026
Alzheimer’de Erken Tanının Önemi Osmangazi’de Konuşuldu
  • Haber

Alzheimer’de Erken Tanının Önemi Osmangazi’de Konuşuldu

7 Kasım 2026

Kategoriler

  • Haber (1.036)
  • Tanıtım (7)

Son Yazılar

  • Zihinsel aktivitelerde çeşitlilik önem taşıyor!
  • Sigara ve tütün ürünleri meme kanseri riskini artırıyor!
  • Alzheimer’de Erken Tanının Önemi Osmangazi’de Konuşuldu
  • Alzheimer’ın tanı, tedavi ve bakım süreci Nilüfer’de konuşuldu
  • Seyahatten Eve Taşınan Görünmez Tehlike: Bağırsak Parazitleri
  • Zayıflama iğnesi kullananlar dikkat!
  • Ani başlayan ateş, öksürük ve kas ağrısına dikkat!
  • Migren ülkemizde her 6 yetişkinden 1’ini etkiliyor
  • Dikkat! Soğuk hava ve enfeksiyonlar kalbi zorlayabiliyor!
  • YENİ Partili Sencer Solakoğlu’ndan Bakan Yumaklı’ya istifa çağrısı: ‘Tarım Bakanlığı uyuyor’
  • ABD’de gündem 2028! Ağır yenilgi sonrası taht kavgası başladı
  • Yanmış biftek, metal ve kaynak dumanı: Astronotlara göre uzay nasıl kokuyor?
  • Starlink cebe giriyor: SpaceX, Boost Mobile için EchoStar ile masada
  • Windows 11’de sağ tık menüsü değişiyor: Daha hızlı ve özelleştirilebilir olacak
  • Kanada’da yapraklar kızıla döndü: Toronto’da High Park sonbahar renklerine büründü
  • CUMA NAMAZI SAATİ İSTANBUL, ANKARA, İZMİR 6 KASIM 2026 (İl il cuma namazı vakitleri) | Cuma namazı kaçta kılınacak, öğle ezanı saat kaçta okunacak? Cuma namazı kaç rekat, nasıl kılınır, ne kadar sürüyor? İşte Diyanet bilgisi!
  • Herkesin gözü önünde iç çamaşırıyla yürümek istemedi: Dört evladım var… Bana huzurum lazım!
  • Beyazperdede yeni hafta heyecanı: Komediden korkuya, dramdan gerilime 10 film sinemalarda!
  • Bakımsız klimalar, evde çamaşır kurutma, kimyasal ürünler
  • Hantavirüs hakkında bilinmesi gerekenler
  • Türkiye 2026’nın ilk 9 ayında 49 milyon 132 bin turisti ağırladı
  • Ağız ve diş sağlığı uzmanları uyardı: Dişlerinizden olabilirsiniz
  • Tüp Mide Ameliyatı Nasıl Yapılır?
  • Brave’e dört gazeteden yapay zeka davası
  • WhatsApp hesabını ele geçirmeye karşı uyarı



Yandex Metrica


You may have missed

Zihinsel aktivitelerde çeşitlilik önem taşıyor!
  • Haber

Zihinsel aktivitelerde çeşitlilik önem taşıyor!

7 Kasım 2026
Sigara ve tütün ürünleri meme kanseri riskini artırıyor!
  • Haber

Sigara ve tütün ürünleri meme kanseri riskini artırıyor!

7 Kasım 2026
Alzheimer’de Erken Tanının Önemi Osmangazi’de Konuşuldu
  • Haber

Alzheimer’de Erken Tanının Önemi Osmangazi’de Konuşuldu

7 Kasım 2026
Alzheimer’ın tanı, tedavi ve bakım süreci Nilüfer’de konuşuldu
  • Haber

Alzheimer’ın tanı, tedavi ve bakım süreci Nilüfer’de konuşuldu

7 Kasım 2026
Copyright © All rights reserved. | DarkNews by AF themes.
erotic massage istanbul
extrabet
extrabet giriş
gazipasa teneke