Google, yapay zekâ üretimi metinlerle gerçek metinleri ayırmak için filigranlara güveniyor. Üretken yapay zekâlar gelişmeye devam ettikçe teknoloji devleri de yapay zekâların çıktılarının tespit edilebilmesi için araçlar geliştirmeye devam ediyor.
Google da SynthID TexT adını verdiği teknoloji ile birlikte kamuya açık yapay zekâ modellerinin ürettiği içerikleri ayırt etmeyi sağlayacak dijital filigran üzerinde çalışıyor. SynthID TexT, Hugging Face yapay zekâ platformu ve Responsible GenAI Toolkit üzerinden indirilebilecek. Firmanın resmi X hesabı üzerinden yapılan açıklamada “SynthID TexT filigran aracını açık kaynak kodlu hâle getiriyoruz. Geliştiriciler ve işletmeler için ücretsiz olarak kullanıma açık ve yapay zekâ ile üretilmiş içerikleri anlamalarını sağlayacak.” ifadesini kullandı. SynthID TexT nasıl çalışıyor?
syntID text Yapay zekâ modelleri çalışırken Token dağılımı kullanıyor. Google’ın yeni teknolojisi de metinleri bu tokenler ile eşleme prensibi üzerinden çalışıyor. SynthID TexT, kelimelerin oluşturulma olasılıkları üzerinden bir desen oluşturuyor ve bu desene göre işaretlemelerde bulunuyor. Google bu teknolojinin bazı sınırları olduğunu da kabul ediyor. Özellikle kısa metinler, yeniden yazılan ya da başka dile çevrilen makaleler ve bilgiye dayalı metinler söz konusu olduğunda model çok da başarılı bir performans sergilemiyor. Teknoloji devi SynthID TexT’i Gemini modellerine entegre etti. Bu türden yapay zekâ çıktısı işaretleme teknolojileri, Çin ve Kaliforniya gibi bölgelerde zorunlu hâle getirilmişti. Benzer yasaların yayılması ile birlikte yapay zekâ işaretçileri de zaman içerisinde daha fazla bölgede kullanılabilecek.
Kaynak : https://techcrunch.com/2024/10/23/google-releases-tech-to-watermark-ai-generated-text/