ChatGPT’yi kullandığında sen de fark etmişsindir, yanıtları genelde oldukça nazik ve yumuşak bir tonda oluyor. Hatta bazen o kadar kibar ki, “bu kadar da olur mu” dedirtiyor. Yapay zekaların bu ölçüde nazik olması ilk bakışta olumlu gibi görünebilir ama işin içinde bazı ince detaylar da var. Bugün biraz bu konuyu konuşalım istedim. Bu arada ChatGPT’ye dair daha genel bir bakış istersen ana sayfaya da göz atabilirsin.
Naziklik bir risk mi?
Öncelikle şunu netleştirelim: ChatGPT’nin kibar olması doğrudan bir güvenlik açığı oluşturmuyor. Yani “çok nazik olduğu için insanlara zarar verir” gibi bir durum yok. Ancak uzmanlar, bu aşırı kibarlığın kullanıcıda yanıltıcı bir güven hissi yaratabileceğini söylüyor. Mesela karşındaki sistem sakin, mantıklı ve nazik bir dille konuşuyorsa verdiği bilgilerin doğru olduğunu sanman oldukça doğal. Ama yapay zekanın zaman zaman teknik hatalar ya da uydurulmuş (diğer adıyla hallüsinatif) yanıtlar verebildiğini unutmamak gerekiyor.
Yanıltıcı güven ve sonuçları
Özellikle hukuk, sağlık gibi ciddi sonuçlar doğurabilecek konularda, ChatGPT’nin öyle öz güvenli ve kibarca verdiği yanıtlar insanı yanıltabiliyor. Bu duruma otomasyon yanılgısı (automation bias) deniyor. Kullanıcı, “bunu bilgisayar söylüyorsa doğrudur” gibi düşünebiliyor. Ama aslında bazen çok teknik bir hata ya da bağlam dışı bir bilgi de olabilir o yanıtın içinde.
Toplumsal ve kültürel etkiler
Bazıları bu nazik dilin çocuklar açısından güzel bir örnek teşkil ettiğini savunuyor. Hatta çocuklara makina ile bile konuşurken kibar olunmasını öğretmenin nezaket kültürünü yaygınlaştıracağını söylüyorlar. Öte yandan bazı kullanıcılar, sohbet sırasında makineye karşı da fazlasıyla duygusal veya kişisel yaklaşabildiklerini itiraf ediyor. Bu da AI ile insanlar arasındaki mesafenin biraz karışmasına neden oluyor.
Kısacası, ChatGPT’nin nazik olması güzel bir özellik; ancak bu nezaket, verdiği bilgilerin sorgulanmaması için bir neden olmamalı. Bilgiyi değerlendirirken, botun tonuna değil, içeriğin doğruluğuna dikkat etmek en sağlıklı yol gibi görünüyor.