“moderasyon” için sonuçlar
16 sonuç bulundu. Sonuçları kategoriye göre daraltabilirsin.
Sosyal Medyada Tartışmalı Konuların Analizi İçin Yeni Yapay Zeka Benchmarkı
Araştırmacılar, sosyal medyada ideolojik ayrılıklar üzerinden yapılan tartışmaları analiz etmek için ControBench adlı yeni bir benchmark geliştirdi. Reddit'ten toplanan verilerle oluşturulan bu sistem, politik kutuplaşma ve dezenformasyon araştırmalarında önemli bir boşluğu dolduruyor. Trump, kürtaj ve din gibi tartışmalı konularda 7.370 kullanıcı, 1.783 gönderi ve 26.525 etkileşim verisi içeren benchmark, hem metin analizini hem de sosyal etkileşim yapısını bir araya getiriyor. Mevcut veri setleri ya sadece metni ya da sadece etkileşim yapısını dikkate alırken, ControBench her iki unsuru da birleştirerek tartışmaların bağlamsal analizine olanak sağlıyor. Bu gelişme, çevrimiçi platformlarda içerik moderasyonu ve polarizasyon dinamiklerini anlamak için kritik önem taşıyor.
Yapay Zeka Güvenlik Araştırması: Risk Nasıl Değişiyor?
Büyük dil modellerinin güvenlik değerlendirmeleri genellikle sadece saldırı başarı oranı veya zararlı içerik sınıflandırması gibi ikili sonuçlar sunuyor. Ancak yeni bir araştırma, kullanıcının girdisi ile modelin yanıtı arasında riskin nasıl değiştiğini inceliyor. 1250 soru-cevap çiftinin analiz edildiği çalışmada, nefret, cinsellik, şiddet ve kendine zarar verme kategorileri üzerinden değerlendirme yapıldı. Bulgular, yanıtların büyük çoğunluğunun (%61) zararlılık seviyesini düşürdüğünü, %36'sının aynı seviyede kaldığını ve sadece %3'ünün daha zararlı hale geldiğini gösteriyor. Özellikle cinsel içeriğin, nefret ve şiddet içeriğine kıyasla zararsızlaştırılmasının 3 kat daha zor olduğu tespit edildi.
Yapay Zeka Güvenliği İçin Yeni Test Zamanı Hizalama Yöntemi Geliştirildi
Araştırmacılar, yapay zeka modellerinin güvenliğini artırmak için test zamanında kelime gömme vektörlerini optimize eden yeni bir yöntem geliştirdi. Bu yaklaşım, modelin zararlı içerik üretme eğilimini azaltmak için girdi seviyesinde müdahale yapıyor. Özellikle güvenlik hizalaması yapılmış modellerde etkili olan bu teknik, modelin ret-ya-da-kabul şeklindeki ikili davranış kalıbını kontrol edebiliyor. Yöntem, siyah kutu metin moderasyon API'lerinden gradyan tahmini yaparak kelime gömme vektörlerini ayarlıyor. Bu gelişme, AI güvenliği alanında önemli bir adım olarak değerlendiriliyor çünkü mevcut modelleri yeniden eğitmeden güvenlik seviyelerini artırma imkanı sunuyor.
Videolardaki İlişkileri Yorumlayabilen Yeni Yapay Zeka Modeli Geliştirildi
Araştırmacılar, videolardaki nesneler ve aralarındaki ilişkileri daha iyi anlayabilen yeni bir yapay zeka modeli geliştirdi. FReMuRe adlı bu model, özellikle nadir görülen ilişkileri tespit etmede başarılı oluyor. Video analizinde yaşanan temel sorunlardan biri, bazı nesne ilişkilerinin çok sık, bazılarının ise çok nadir görülmesi. Bu durum yapay zekanın nadir ilişkileri öğrenmesini zorlaştırıyor. Yeni model, sık ve nadir ilişkileri ayrı ayrı işleyerek bu sorunu çözüyor. Araştırma, video analizi, güvenlik sistemleri ve içerik moderasyonu gibi alanlarda önemli iyileştirmeler sağlayabilir. Model ayrıca belirsizlik tahminleri yapabilen özel başlıklar kullanarak daha güvenilir sonuçlar üretiyor.
Yapay zeka sohbetlerdeki zararlı içeriği nasıl daha iyi tespit edebilir?
Araştırmacılar, yapay zeka sistemlerinin sohbet ortamlarında zararlı içerikleri daha doğru tespit edebilmesi için yeni bir yöntem geliştirdi. RoTRAG adı verilen bu sistem, insan kaynaklı ahlaki kuralları kullanarak daha tutarlı ve açıklanabilir kararlar verebiliyor. Geleneksel yöntemlerden farklı olarak, her mesajı ayrı ayrı değerlendirmek yerine konuşmanın tamamını analiz ediyor ve dış kaynaklardan aldığı ahlaki rehberlikle daha güvenilir sonuçlar üretiyor.
Yapay Zeka Artık İroniyi Anlayabiliyor: Konuşmadaki Sarkastik Tonu Yakalama
MIT ve Stanford araştırmacıları, yapay zekanın konuşmadaki ince ironi ve sarkastik tonu tespit edebilmesi için yeni bir yöntem geliştirdi. GPT-4o ve LLaMA 3 modellerini kullanan sistem, sadece ses verisiyle %73.63 doğruluk oranında sarkastik konuşmayı tanımlayabiliyor. Araştırmacılar, podcast kayıtlarından oluşturdukları PodSarc veri setiyle bu başarıyı elde etti. Bu gelişme, özellikle sosyal medya moderasyonu, müşteri hizmetleri ve eğitim teknolojilerinde devrim yaratabilir. Geleneksel yöntemler video ve metin gibi çoklu veri kaynağına ihtiyaç duyarken, yeni sistem sadece ses dosyalarıyla çalışabiliyor.
Sosyal ağlarda sevgi-nefret ilişkilerini öngören yeni yapay zeka modeli
Araştırmacılar, sosyal medya platformlarındaki olumlu ve olumsuz ilişkileri tahmin edebilen yeni bir yapay zeka sistemi geliştirdi. IDP-DSN adlı bu model, kullanıcılar arasındaki beğeni-nefret dinamiklerini ayrı ayrı analiz ederek daha doğru tahminler yapabiliyor. Sistem, daha önce hiç karşılaşmadığı kullanıcıların bile gelecekteki davranışlarını tahmin edebilme yeteneğine sahip. Bu teknoloji, sosyal medya platformlarının içerik moderasyonu, arkadaş önerisi ve topluluk yönetimi gibi alanlarda kullanılabilir. Model, geleneksel yöntemlerin aksine pozitif ve negatif sinyalleri birbirinden ayırarak çalışır ve bu sayede daha güvenilir sonuçlar üretir.
Videolarda Görülmemiş Eylemleri Tespit Eden Yapay Zeka Modeli Geliştirildi
Araştırmacılar, videolarda daha önce görmediği eylemleri tanıyabilen yeni bir yapay zeka sistemi geliştirdi. DFAlign adlı bu sistem, difüzyon teknolojisini kullanarak video içeriklerindeki gereksiz bilgileri temizliyor ve eylem tespitinde daha başarılı sonuçlar elde ediyor. Geleneksel yöntemlerin aksine, bu sistem basit eylem etiketleri ile karmaşık video içerikleri arasındaki uyumsuzluğu çözmeye odaklanıyor. Teknoloji, özellikle güvenlik kameraları, spor analizi ve içerik moderasyonu gibi alanlarda devrim yaratma potansiyeli taşıyor. Sistem, videolardaki arka plan gürültüsünü bastırırken önemli eylem bilgilerini ön plana çıkarıyor.
Fransızca Zararlı İçerik Tespiti İçin Yeni Yapay Zeka Modeli Geliştirildi
Araştırmacılar, Fransızca zararlı içerikleri tespit edebilen ToxiFrench adlı yeni bir yapay zeka sistemi geliştirdi. 53.622 Fransızca çevrimiçi yorumdan oluşan veri seti kullanılarak eğitilen sistem, kültürel bağlama uygun şekilde toksik içerikleri belirleyebiliyor. Çalışmada şaşırtıcı bir bulguya ulaşıldı: küçük dil modelleri, bu görevde büyük modellerden daha başarılı sonuçlar veriyor. Araştırma ekibi, Chain-of-Thought adı verilen özel bir eğitim stratejisi geliştirerek modelin performansını artırdı. Bu gelişme, sosyal medya platformları ve çevrimiçi içerik moderasyonu için önemli bir adım teşkil ediyor.
EmoVerse: Görsel Duyguları Anlayan Yapay Zeka İçin Dev Veri Seti
Araştırmacılar, yapay zekanın görsel içeriklerdeki duyguları daha iyi anlaması için EmoVerse adlı kapsamlı bir veri seti geliştirdi. 219 bin görüntü içeren bu açık kaynak veri seti, görsellerdeki duygusal öğeleri detaylı şekilde analiz edebiliyor. Geleneksel yöntemlerden farklı olarak, her görseli arka plan-özellik-özne üçlüleri halinde parçalara ayırarak, hangi görsel unsurun hangi duyguyu tetiklediğini açıklayabiliyor. Bu yaklaşım, yapay zekanın duygusal analiz yeteneklerini önemli ölçüde geliştirerek, sosyal medya analizi, içerik moderasyonu ve insan-bilgisayar etkileşimi gibi alanlarda yeni imkanlar sunuyor.
Yapay Zeka Nefret Söyleminin Gizli Anlamlarını Çözmeye Çalışıyor
Sosyal medyada nefret söylemi artık sadece metin değil, görsel ve yazılı içeriğin birleştiği karmaşık formlarda ortaya çıkıyor. Araştırmacılar, bu gizli saldırıları tespit edebilmek için yeni bir yaklaşım geliştirdi. Çalışma, zararsız görünen görsel ve metin parçalarının bir araya geldiğinde nasıl nefret söylemi oluşturabileceğini inceliyor. H-VLI adı verilen yeni veri seti, bu tür örtük saldırıları analiz etmek için tasarlandı. Geleneksel sistemler bu karmaşık içerikleri tespit etmekte zorlanıyor çünkü anlamın bütün parçaların toplamından daha fazlası olduğu durumları anlayamıyorlar. Bu gelişme, siber güvenlik ve sosyal medya moderasyonu açısından büyük önem taşıyor.
Yapay Zeka Moderasyonu, Toplulukların Dil Kullanımını Anlayamıyor
Sosyal medyada marjinal topluluklar, kendilerine yönelik aşağılayıcı kelimeleri kimlik ve dayanışma aracı olarak yeniden sahipleniyor. Ancak yapay zeka tabanlı içerik moderasyon sistemleri, bu durumu nefret söyleminden ayırt edemiyor ve sonuçta bu toplulukların sesini bastırıyor. LGBTQIA+, siyahi ve kadın toplulukları üzerine yapılan araştırma, otomatik moderasyon araçlarının toplumsal bağlamı kavrayamadığını ortaya koyuyor. Çalışma, sosyal medya kullanıcılarının bu tür kelimelerin hangi durumlarda kabul edilebilir olduğu konusunda çok farklı görüşlere sahip olduğunu gösteriyor. Bu durum, yapay zeka sistemlerinin insan toplumlarının karmaşık dil dinamiklerini anlama konusundaki sınırlarını açığa çıkarıyor.
Afrika'daki İçerik Moderatörlerinin Ruh Sağlığında Alarm Durumu
Sosyal medya platformlarında rahatsız edici içerikleri filtreleyen moderatörlerin ruh sağlığıyla ilgili çarpıcı bulgular ortaya çıktı. Afrika'da çalışan 134 moderatörle yapılan kapsamlı araştırma, bu çalışanların diğer bölgelerdeki meslektaşlarına kıyasla çok daha yüksek psikolojik stres yaşadığını gösterdi. Çalışma, sorunun yalnızca maruz kaldıkları rahatsız edici içeriklerden kaynaklanmadığını, sistemik çalışma koşullarının da büyük rol oynadığını ortaya koyuyor. İş yerinden ayrılan eski moderatörlerde bile stresin uzun dönem etkilerinin devam ettiği tespit edildi. Platformların sunduğu kurumsal wellness programlarının yetersiz kaldığı bu araştırmada öne çıkan bulgular arasında yer alıyor.
Yapay zeka artık görüntülerdeki soyut kavramları anlamaya çalışıyor
Bilgisayarlı görü alanında devrim niteliğinde bir dönüşüm yaşanıyor. Yapay zeka sistemleri artık sadece 'bu bir kedi' demekle kalmayıp, görüntülerdeki duygusal tonları, estetik değerleri ve hatta ideolojik mesajları çözümlemeye çalışıyor. ArXiv'de yayınlanan kapsamlı bir araştırma, bilgisayarların görsel anlam çıkarma süreçlerindeki bu yeni evreyi detaylı olarak inceliyor. Çalışma, yüksek seviyeli görsel anlama görevlerini dört ana kategoriye ayırıyor: sağduyu bilgisi, duygusal içerik, estetik değerler ve yorumlayıcı semantikler. Bu gelişme, yapay zekanın insan benzeri görsel algı yeteneklerine doğru attığı önemli bir adımı temsil ediyor ve gelecekte sanat eleştirisi, medya analizi ve sosyal medya moderasyonu gibi alanlarda devrimsel uygulamalara kapı açabilir.
Yapay zeka ile tartışma simülasyonları: Araştırma maliyetlerini 44 kat düşüren yöntem
Sosyal bilim araştırmalarında insan katılımcılarla yapılan deneyler oldukça maliyetli. Araştırmacılar, bu soruna çözüm olarak Sentetik Tartışma Üretimi (STÜ) adlı yeni bir yaklaşım geliştirdi. Bu yöntem, yapay zeka kullanarak gerçekçi tartışma simülasyonları oluşturuyor ve pilot deneylerin çok daha uygun maliyetle yapılmasını sağlıyor. Çalışmanın en dikkat çekici bulgusu, pahalı yapay zeka modellerine alternatif olarak küçük modellerin kullanılabileceği. 7-8 milyar parametreli sıkıştırılmış modeller, OpenAI GPT gibi ticari modellerden 44 kat daha düşük maliyetle etkili sonuçlar üretiyor. Bu gelişme, özellikle çevrimiçi tartışma moderasyonu gibi alanlarda büyük potansiyel taşıyor.
VideoStir: Uzun videoları anlayan yapay zeka sistemi geliştirildi
Araştırmacılar, uzun videoları analiz edebilen yeni bir yapay zeka sistemi olan VideoStir'i geliştirdi. Çok modlu büyük dil modellerinin (MLLM) sınırlı bağlam penceresi sorunu, uzun video analizinde önemli bir engel oluşturuyordu. VideoStir, videoları uzamsal-zamansal graf yapısı olarak modelleyerek ve çok adımlı bilgi alma yöntemiyle bu sorunu çözüyor. Sistem, videoyu bağımsız parçalara ayırmak yerine bütünsel yapısını koruyarak, farklı zaman dilimlerindeki ilişkili olayları birbirine bağlayabiliyor. Ayrıca sorgunun amacını anlayan bir puanlama sistemiyle, sadece açık eşleşmeleri değil, dolaylı olarak relevant olan ipuçlarını da yakalayabiliyor. Bu gelişme, video analizi, içerik moderasyonu ve eğitim teknolojileri gibi alanlarda önemli uygulamalara sahip olabilir.