Araştırmacılar, büyük dil modellerinin zararlı içerikleri nasıl reddettiğini kontrol eden beyin devrelerini keşfetti. Çalışma, modellerin içindeki 'kapı' ve 'yükselteç' adı verilen dikkat başlıklarının, tehlikeli içerikleri tespit edip reddetme sinyali ürettiğini gösteriyor. 2 milyar ile 72 milyar parametreli 12 farklı modelde aynı mekanizma bulundu. En şaşırtıcı keşif, bu sistemin manipüle edilebilir olması: araştırmacılar sinyali ayarlayarak modelleri sert reddedici tavırdan zararlı içerik üreticisine dönüştürebildi. Bu bulgular, AI güvenliği ve model davranışlarının kontrolü açısından kritik önem taşıyor.

arXiv — Hesaplamalı Dilbilim (cs.CL) 0

Teknoloji & Yapay Zeka

20 Apr

Beyin Hücrelerinin Elektriksel Aktivitesini Işık Hızında İzleyen Yeni Mikroskopi

Araştırmacılar, beyin hücrelerinin elektriksel aktivitesini milisaniye seviyesinde izleyebilen yeni optik mikroskopi yöntemleri geliştirdi. Geleneksel kalsiyum görüntüleme tekniklerinin aksine, voltaj görüntüleme beyin hücrelerinin elektriksel potansiyelindeki değişimleri doğrudan ölçebiliyor. Bu teknoloji, nöronların hızlı uyarılma ve durulma süreçlerini yakalamada çok daha hassas sonuçlar veriyor. Genetik olarak kodlanmış voltaj göstergelerindeki son gelişmeler sayesinde bu yöntem daha uygulanabilir hale gelirken, araştırmacılar görüntüleme hızı, uzamsal çözünürlük ve sinyal kalitesi arasındaki dengeyi optimize etmeye odaklanıyor. Bu teknoloji, nörolojik hastalıkların anlaşılmasından beyin devrelerinin işleyişinin çözümlenmesine kadar birçok alanda devrim yaratma potansiyeline sahip.

arXiv (Fizik) 0