achievable
New member
Bilimsel bir ekip Google DeepMind yapabilecek bir araç geliştirdi filigran ekle ile oluşturulan metinler geniş dilsel modeller kullanarak Yapay Zeka ile oluşturulan içeriği tanımlama ve izleme yeteneğini geliştirir.
Büyük dil modelleri (LLM), yaygın olarak kullanılan bir yapay zeka (AI) türüdür. sohbet robotları için metin oluştur, yardım yazma ve diğer amaçlar. Ancak olabilir içeriği tanımlamak ve ilişkilendirmek zor Bu yapay zeka tarafından belirli bir kaynağa üretilen ve bu durum, bilgi güvenilirliği.
Resimlere, videolara veya ses dosyalarına filigran eklemek nispeten kolaydır, ancak metinlerde bu bir zorluktur: kelimelerdeki herhangi bir değişiklik, içeriğin anlamını ve kalitesini etkileyebilir. Filigranlama bir çözüm olarak önerilmiştir ancak geniş ölçekte uygulanmamıştır.
Şimdi Nature dergisinde yayınlanan bir makalede araştırmacılar Sumanth Dathathri ve Pushmeet Kohli, Google DeepMind'dan, aşağıdakileri kullanan bir stratejiyi açıklayın: yeni algoritma Yapay zeka tarafından oluşturulan metne filigran uygulamak için örnekleme; SynthID-Metin. Araştırmacılar, aracın bu algoritmayı “LLM'nin kelime seçimini ustaca çarpıtmak ve ilgili tespit yazılımı tarafından tanınabilecek bir imza eklemek için” kullandığını açıklıyor.
Bir dergi özeti, bu filigranların tespit edilebilirliğinin kamuya açık birkaç modelle değerlendirildiğini ve SynthID-Text'in mevcut yaklaşımlarla karşılaştırıldığında gelişmiş etkililik gösterdiğini belirtiyor.
Bilim adamlarına göre, SynthID-Text kullanımının LLM'yi çalıştırmak için gereken bilgi işlem gücü üzerinde de ihmal edilebilir bir etkisi var ve bunun uygulanmasının önündeki engelleri azaltıyor.
Büyük dil modelleri, genellikle yüksek kaliteli sentetik metinlerin oluşturulmasına olanak sağlamıştır. insan tarafından yazılan içerikten ayırt edilemezYazarlar makalelerinde bilgi ekosisteminin doğasını önemli ölçüde etkileyebilecek bir ölçekte yazıyorlar.
Google DeepMind ekibi, filigranın sentetik metni tanımlamaya ve kazara ya da kasıtlı kötüye kullanımı sınırlamaya yardımcı olabileceğini ekliyor. “Burada metin kalitesini koruyan ve yüksek algılama doğruluğu sağlayan bir filigran stratejisi olan SynthID-Text'i tanımlıyoruz” diyorlar.
Teknik açıdan sağlam bir çözüm
Madrid Özerk Üniversitesi Bilgisayar Dilbilimi Laboratuvarı'ndan Pablo Haya'ya göre makale, yapay zeka tarafından filigranlar aracılığıyla oluşturulan metnin tanımlanması için “teknik olarak sağlam bir çözüm” sunuyor.
Haya, gazetecilere yönelik bilimsel kaynaklar platformu olan Science Media Center España'ya yaptığı bir yorumda, burada filigranın, kelime oluşturma algoritmasını, anlamı değiştirmeden izlenebilir bir istatistiksel modeli takip edecek şekilde değiştirmeyi içerdiğini belirtiyor.
Araştırmada yer almayan Haya, şu anda bir belgenin yapay zeka tarafından oluşturulup oluşturulmadığını tespit eden sistemlerin başarı oranlarının düşük olduğunu, bu nedenle yazarlığın belirlenmesini kolaylaştıran teknolojilerin çok gerekli olduğunu söylüyor.
“Ayrıca, bu teknikler, sağlayıcıların belirli risk düzeylerinde yapay zeka tarafından oluşturulan içeriğin tanımlanabilir olmasını sağlamasını gerektiren yapay zeka düzenlemesinin şeffaflık yükümlülükleriyle de uyumludur.”
Bununla birlikte, yaygın olarak benimsenmesinin bir sorun olmaya devam ettiğini de ekliyor, çünkü bu tip filigran, metinde yapılan değişiklikler veya başka kelimelerle ifade etme tekniklerinin kullanılması gibi müteakip manipülasyonlara karşı savunmasızdır ve bu da tespit edilecek işaretin etkinliğini azaltır.
Büyük dil modelleri (LLM), yaygın olarak kullanılan bir yapay zeka (AI) türüdür. sohbet robotları için metin oluştur, yardım yazma ve diğer amaçlar. Ancak olabilir içeriği tanımlamak ve ilişkilendirmek zor Bu yapay zeka tarafından belirli bir kaynağa üretilen ve bu durum, bilgi güvenilirliği.
Resimlere, videolara veya ses dosyalarına filigran eklemek nispeten kolaydır, ancak metinlerde bu bir zorluktur: kelimelerdeki herhangi bir değişiklik, içeriğin anlamını ve kalitesini etkileyebilir. Filigranlama bir çözüm olarak önerilmiştir ancak geniş ölçekte uygulanmamıştır.
Şimdi Nature dergisinde yayınlanan bir makalede araştırmacılar Sumanth Dathathri ve Pushmeet Kohli, Google DeepMind'dan, aşağıdakileri kullanan bir stratejiyi açıklayın: yeni algoritma Yapay zeka tarafından oluşturulan metne filigran uygulamak için örnekleme; SynthID-Metin. Araştırmacılar, aracın bu algoritmayı “LLM'nin kelime seçimini ustaca çarpıtmak ve ilgili tespit yazılımı tarafından tanınabilecek bir imza eklemek için” kullandığını açıklıyor.
Bir dergi özeti, bu filigranların tespit edilebilirliğinin kamuya açık birkaç modelle değerlendirildiğini ve SynthID-Text'in mevcut yaklaşımlarla karşılaştırıldığında gelişmiş etkililik gösterdiğini belirtiyor.
Bilim adamlarına göre, SynthID-Text kullanımının LLM'yi çalıştırmak için gereken bilgi işlem gücü üzerinde de ihmal edilebilir bir etkisi var ve bunun uygulanmasının önündeki engelleri azaltıyor.
Büyük dil modelleri, genellikle yüksek kaliteli sentetik metinlerin oluşturulmasına olanak sağlamıştır. insan tarafından yazılan içerikten ayırt edilemezYazarlar makalelerinde bilgi ekosisteminin doğasını önemli ölçüde etkileyebilecek bir ölçekte yazıyorlar.
Google DeepMind ekibi, filigranın sentetik metni tanımlamaya ve kazara ya da kasıtlı kötüye kullanımı sınırlamaya yardımcı olabileceğini ekliyor. “Burada metin kalitesini koruyan ve yüksek algılama doğruluğu sağlayan bir filigran stratejisi olan SynthID-Text'i tanımlıyoruz” diyorlar.
Teknik açıdan sağlam bir çözüm
Madrid Özerk Üniversitesi Bilgisayar Dilbilimi Laboratuvarı'ndan Pablo Haya'ya göre makale, yapay zeka tarafından filigranlar aracılığıyla oluşturulan metnin tanımlanması için “teknik olarak sağlam bir çözüm” sunuyor.
Haya, gazetecilere yönelik bilimsel kaynaklar platformu olan Science Media Center España'ya yaptığı bir yorumda, burada filigranın, kelime oluşturma algoritmasını, anlamı değiştirmeden izlenebilir bir istatistiksel modeli takip edecek şekilde değiştirmeyi içerdiğini belirtiyor.
Araştırmada yer almayan Haya, şu anda bir belgenin yapay zeka tarafından oluşturulup oluşturulmadığını tespit eden sistemlerin başarı oranlarının düşük olduğunu, bu nedenle yazarlığın belirlenmesini kolaylaştıran teknolojilerin çok gerekli olduğunu söylüyor.
“Ayrıca, bu teknikler, sağlayıcıların belirli risk düzeylerinde yapay zeka tarafından oluşturulan içeriğin tanımlanabilir olmasını sağlamasını gerektiren yapay zeka düzenlemesinin şeffaflık yükümlülükleriyle de uyumludur.”
Bununla birlikte, yaygın olarak benimsenmesinin bir sorun olmaya devam ettiğini de ekliyor, çünkü bu tip filigran, metinde yapılan değişiklikler veya başka kelimelerle ifade etme tekniklerinin kullanılması gibi müteakip manipülasyonlara karşı savunmasızdır ve bu da tespit edilecek işaretin etkinliğini azaltır.