Yapay zeka araştırmacısı Jeremy Howard, bu ay 7 yaşındaki kızına ChatGPT adlı bir çevrimiçi sohbet botu tanıttı. Birkaç gün önce dünyanın en iddialı yapay zeka laboratuvarlarından biri olan OpenAI tarafından yayınlanmıştı.
Aklına ne geldiyse deneysel sohbet robotuna sormasını söyledi. Trigonometrinin ne işe yaradığını, kara deliklerin nereden geldiğini ve tavukların neden yumurtalarını kuluçkaya yatırdıklarını sordu. Her seferinde net, iyi noktalanmış bir nesirle cevap verdi. Havaya atılan bir topun yolunu tahmin edebilen bir bilgisayar programı istediğinde onu da verdi.
Sonraki birkaç gün içinde, çalışmaları ChatGPT ve benzer teknolojilerin yaratılmasına ilham veren bir veri bilimcisi ve profesör olan Dr. Howard, sohbet robotunu yeni bir tür kişisel eğitmen olarak görmeye başladı. Kızına matematik, bilim ve İngilizce öğretebilir, birkaç önemli dersten bahsetmeye bile gerek yok. Bunların başlıcası: Size söylenen her şeye inanmayın.
“Onun böyle öğrendiğini görmek heyecan verici,” dedi. Ama ona şunu da söyledim: Sana verdiği her şeye güvenme. Hata yapabilir.”
OpenAI, daha gelişmiş sohbet botları oluşturmak için çalışan birçok şirket, akademik laboratuvar ve bağımsız araştırmacı arasında yer alıyor. Bu sistemler tam olarak bir insan gibi sohbet edemezler, ancak çoğu zaman öyle görünürler. Ayrıca bilgileri insanların asla yapamayacağı bir hızla alıp yeniden paketleyebilirler. Siri veya Alexa gibi ne aradığınızı anlama ve size verme konusunda daha iyi olan dijital asistanlar olarak düşünülebilirler.
Yapay zeka araştırmacısı Jeremy Howard, küçük kızından son teknoloji bir yapay zeka sohbet robotu sistemi kullanmasını istedi. Kredi… The New York Times için David Kelly
Bir milyondan fazla kişi tarafından kullanılan ChatGPT’nin piyasaya sürülmesinden sonra, birçok uzman bu yeni sohbet botlarının Google ve Bing gibi internet arama motorlarını yeniden keşfetmeye ve hatta yerini almaya hazır olduğuna inanıyor.
Bilgileri uzun mavi bağlantı listeleri yerine kısa cümleler halinde sunabilirler. Kavramları insanların anlayabileceği şekilde açıklarlar. Ayrıca sıfırdan iş planları, dönem ödevi konuları ve diğer yeni fikirleri oluştururken gerçekleri de sunabilirler.
Bir Silikon Vadisi şirketi olan Box’ın CEO’su ve bu sohbet botlarının nasıl değişeceğini araştıran birçok yöneticiden biri olan Aaron Levie, “Artık herhangi bir soruyu bir insan için anlamlı olacak şekilde yanıtlayabilen bir bilgisayarınız var” dedi. teknolojik manzara. “Farklı bağlamlardan tahminler yürütebilir, fikirler alabilir ve bunları bir araya getirebilir.”
Yeni sohbet botları bunu tam bir güvenle yapıyor. Ama her zaman doğruyu söylemezler. Bazen basit aritmetikte bile başarısız olurlar. Gerçeği kurguyla harmanlıyorlar. Ve gelişmeye devam ettikçe, insanlar bunları gerçek dışı şeyler üretmek ve yaymak için kullanabilirler.
OpenAI’nin Yükselişi
San Francisco şirketi, dünyanın en iddialı yapay zeka laboratuvarlarından biridir. İşte bazı son gelişmelere bir bakış.
Arlington, Va.’da bir veri bilimcisi olan Aaron Margolis, deneysel bir Google uygulaması olan AI Test Kitchen aracılığıyla LaMDA’yı kullanmasına izin verilen Google dışındaki sınırlı sayıdaki kişi arasındaydı. Açık uçlu konuşma yeteneğine sürekli olarak hayran kalıyordu. Onu eğlendiriyordu. Ancak, internete gönderilen çok miktarda bilgiden eğitilmiş bir sistemden bekleneceği gibi, bunun biraz fabulist olabileceği konusunda uyardı.
Bay Margolis, ChatGPT’den sanki Mark Twain’miş gibi (gerçek adı Samuel Clemens idi) sohbet etmesini istediğinde, yanlışlıkla bir kısa öyküdeki kurbağa adının konuşabildiğini belirtti.
“Size bir Aaron Sorkin filmi gibi bir şey veriyor,” dedi. Bay Sorkin, Facebook’un kökeni hakkındaki gerçeği esnettiği için sıklıkla eleştirilen bir film olan “The Social Network”ü yazdı. “Bazı kısımları doğru olacak ve bazı kısımları doğru olmayacak.”
Geçenlerde hem LaMDA’dan hem de ChatGPT’den kendisiyle Mark Twain’miş gibi sohbet etmelerini istedi. LaMDA’ya sorduğunda, kısa süre sonra Twain ve Levi Strauss arasındaki bir görüşmeden bahsetti ve yazarın 1800’lerin ortalarında San Francisco’da yaşarken bluejeans kralı için çalıştığını söyledi. Doğru görünüyordu. Ama değil. Twain ve Strauss aynı dönemde San Francisco’da yaşadılar ama hiç birlikte çalışmadılar.
Bilim adamları buna “halüsinasyon” diyorlar. Tıpkı iyi bir hikaye anlatıcı gibi, sohbet robotlarının da öğrendiklerini alıp yeni bir şeye dönüştürmenin bir yolu var – doğru olup olmadığına bakmaksızın.
LaMDA, yapay zeka araştırmacılarının beyindeki nöronlar ağı üzerinde gevşek bir şekilde modellenmiş matematiksel bir sistem olan sinir ağı dediği şeydir. Bu, Google Çeviri gibi hizmetlerde Fransızca ve İngilizce arasında çeviri yapan ve yayaları şehir sokaklarında kendi kendine giden arabalar olarak tanımlayan teknolojinin aynısıdır.
Bir sinir ağı, verileri analiz ederek becerileri öğrenir. Örneğin, binlerce kedi fotoğrafındaki desenleri saptayarak bir kediyi tanımayı öğrenebilir.
Beş yıl önce, Google’daki araştırmacılar ve OpenAI gibi laboratuvarlar, kitaplar, Wikipedia makaleleri, haberler ve çevrimiçi sohbet günlükleri dahil olmak üzere muazzam miktarda dijital metni analiz eden sinir ağları tasarlamaya başladı. Bilim adamları bunlara “büyük dil modelleri” diyor. İnsanların sözcükleri, sayıları ve sembolleri birbirine bağlama biçimindeki milyarlarca farklı modeli belirleyen bu sistemler, kendi başlarına metin oluşturmayı öğrendiler.
Dil üretme yetenekleri, onları oluşturan araştırmacıların çoğu da dahil olmak üzere, alandaki birçok araştırmacıyı şaşırttı. Teknoloji, insanların yazdıklarını taklit edebilir ve farklı kavramları birleştirebilir. Ondan Jerry’nin kabarcık sıralama algoritması adı verilen ezoterik bir matematik tekniği öğrendiği bir “Seinfeld” sahnesi yazmasını isteyebilirsiniz – ve o da yapardı.
OpenAI, ChatGPT ile teknolojiyi iyileştirmek için çalıştı. Google’ın LaMDA’sının yanı sıra serbest akışlı konuşma yapmaz. Daha çok Siri, Alexa ve diğer dijital asistanlar gibi çalışacak şekilde tasarlandı. LaMDA gibi, ChatGPT de internetten derlenen bir dijital metin denizinde eğitildi.
İnsanlar sistemi test ederken, onlardan yanıtlarını derecelendirmelerini istedi. İnandırıcı mıydılar? Yararlı mıydılar? Onlar doğru muydu? Ardından, pekiştirmeli öğrenme adı verilen bir teknik aracılığıyla, sistemi bilemek ve ne yapıp ne yapmayacağını daha dikkatli bir şekilde tanımlamak için derecelendirmeleri kullandı.
OpenAI’nin baş teknoloji sorumlusu Mira Murati, “Bu, modelin sizinle etkileşime geçebileceği ve yanlış olduğunda kabul edebileceği bir noktaya gelmemizi sağlıyor” dedi. “Uygunsuz bir şeyi reddedebilir ve yanlış olan bir soruya veya önermeye meydan okuyabilir.”
Yöntem mükemmel değildi. OpenAI, ChatGPT kullananları “bazen yanlış bilgiler üretebileceği” ve “zararlı talimatlar veya önyargılı içerik üretebileceği” konusunda uyardı. Ancak şirket, teknolojiyi iyileştirmeye devam etmeyi planlıyor ve onu kullanan insanlara bunun hâlâ bir araştırma projesi olduğunu hatırlatıyor.
Google, Meta ve diğer şirketler de doğruluk sorunlarını ele alıyor. Meta kısa bir süre önce sohbet botu Galactica’nın çevrimiçi önizlemesini kaldırdı çünkü sürekli olarak yanlış ve önyargılı bilgiler üretiyordu.
Uzmanlar, şirketlerin bu teknolojilerin kaderini kontrol edemediği konusunda uyardı. ChatGPT, LaMDA ve Galactica gibi sistemler, yıllardır serbestçe dolaşan fikirlere, araştırma makalelerine ve bilgisayar kodlarına dayanmaktadır.
Google ve OpenAI gibi şirketler, teknolojiyi diğerlerinden daha hızlı ilerletebilir. Ancak en son teknolojileri yeniden üretildi ve geniş çapta dağıtıldı. İnsanların bu sistemleri yanlış bilgi yaymak için kullanmasını engelleyemezler.
Dr. Howard, kızının internette okuduğu her şeye güvenmemeyi öğrenmesini umduğu gibi, toplumun da aynı dersi öğrenmesini umuyordu.
“İnsanları belirli bir bakış açısına ikna etmek için tasarlanmış konuşmalara sahip milyonlarca robotu insan gibi görünecek şekilde programlayabilirsiniz” dedi. “Yıllardır bu konuda uyardım. Şimdi bunun olmasını beklediği açık.”
Aklına ne geldiyse deneysel sohbet robotuna sormasını söyledi. Trigonometrinin ne işe yaradığını, kara deliklerin nereden geldiğini ve tavukların neden yumurtalarını kuluçkaya yatırdıklarını sordu. Her seferinde net, iyi noktalanmış bir nesirle cevap verdi. Havaya atılan bir topun yolunu tahmin edebilen bir bilgisayar programı istediğinde onu da verdi.
Sonraki birkaç gün içinde, çalışmaları ChatGPT ve benzer teknolojilerin yaratılmasına ilham veren bir veri bilimcisi ve profesör olan Dr. Howard, sohbet robotunu yeni bir tür kişisel eğitmen olarak görmeye başladı. Kızına matematik, bilim ve İngilizce öğretebilir, birkaç önemli dersten bahsetmeye bile gerek yok. Bunların başlıcası: Size söylenen her şeye inanmayın.
“Onun böyle öğrendiğini görmek heyecan verici,” dedi. Ama ona şunu da söyledim: Sana verdiği her şeye güvenme. Hata yapabilir.”
OpenAI, daha gelişmiş sohbet botları oluşturmak için çalışan birçok şirket, akademik laboratuvar ve bağımsız araştırmacı arasında yer alıyor. Bu sistemler tam olarak bir insan gibi sohbet edemezler, ancak çoğu zaman öyle görünürler. Ayrıca bilgileri insanların asla yapamayacağı bir hızla alıp yeniden paketleyebilirler. Siri veya Alexa gibi ne aradığınızı anlama ve size verme konusunda daha iyi olan dijital asistanlar olarak düşünülebilirler.
Yapay zeka araştırmacısı Jeremy Howard, küçük kızından son teknoloji bir yapay zeka sohbet robotu sistemi kullanmasını istedi. Kredi… The New York Times için David Kelly
Bir milyondan fazla kişi tarafından kullanılan ChatGPT’nin piyasaya sürülmesinden sonra, birçok uzman bu yeni sohbet botlarının Google ve Bing gibi internet arama motorlarını yeniden keşfetmeye ve hatta yerini almaya hazır olduğuna inanıyor.
Bilgileri uzun mavi bağlantı listeleri yerine kısa cümleler halinde sunabilirler. Kavramları insanların anlayabileceği şekilde açıklarlar. Ayrıca sıfırdan iş planları, dönem ödevi konuları ve diğer yeni fikirleri oluştururken gerçekleri de sunabilirler.
Bir Silikon Vadisi şirketi olan Box’ın CEO’su ve bu sohbet botlarının nasıl değişeceğini araştıran birçok yöneticiden biri olan Aaron Levie, “Artık herhangi bir soruyu bir insan için anlamlı olacak şekilde yanıtlayabilen bir bilgisayarınız var” dedi. teknolojik manzara. “Farklı bağlamlardan tahminler yürütebilir, fikirler alabilir ve bunları bir araya getirebilir.”
Yeni sohbet botları bunu tam bir güvenle yapıyor. Ama her zaman doğruyu söylemezler. Bazen basit aritmetikte bile başarısız olurlar. Gerçeği kurguyla harmanlıyorlar. Ve gelişmeye devam ettikçe, insanlar bunları gerçek dışı şeyler üretmek ve yaymak için kullanabilirler.
OpenAI’nin Yükselişi
San Francisco şirketi, dünyanın en iddialı yapay zeka laboratuvarlarından biridir. İşte bazı son gelişmelere bir bakış.
- ChatGPT :Teknoloji köşe yazarımız, yeni son teknoloji chatbot’un hayranlık, korku, akrobasi hareketleri ve korkuluklarını aşma girişimlerine ilham verdiğini yazıyor.
- DALL-E 2 : Sistem, sadece görmek istediklerinizi tanımlayarak dijital görüntüler oluşturmanıza olanak tanır. Ancak bazıları için görüntü oluşturucular endişe verici.
- GPT-3 : Akıllara durgunluk veren bir akıcılıkla, doğal dil sistemi yazabilir, tartışabilir ve kod yazabilir. Gelecek için etkileri derin olabilir.
Arlington, Va.’da bir veri bilimcisi olan Aaron Margolis, deneysel bir Google uygulaması olan AI Test Kitchen aracılığıyla LaMDA’yı kullanmasına izin verilen Google dışındaki sınırlı sayıdaki kişi arasındaydı. Açık uçlu konuşma yeteneğine sürekli olarak hayran kalıyordu. Onu eğlendiriyordu. Ancak, internete gönderilen çok miktarda bilgiden eğitilmiş bir sistemden bekleneceği gibi, bunun biraz fabulist olabileceği konusunda uyardı.
Bay Margolis, ChatGPT’den sanki Mark Twain’miş gibi (gerçek adı Samuel Clemens idi) sohbet etmesini istediğinde, yanlışlıkla bir kısa öyküdeki kurbağa adının konuşabildiğini belirtti.
“Size bir Aaron Sorkin filmi gibi bir şey veriyor,” dedi. Bay Sorkin, Facebook’un kökeni hakkındaki gerçeği esnettiği için sıklıkla eleştirilen bir film olan “The Social Network”ü yazdı. “Bazı kısımları doğru olacak ve bazı kısımları doğru olmayacak.”
Geçenlerde hem LaMDA’dan hem de ChatGPT’den kendisiyle Mark Twain’miş gibi sohbet etmelerini istedi. LaMDA’ya sorduğunda, kısa süre sonra Twain ve Levi Strauss arasındaki bir görüşmeden bahsetti ve yazarın 1800’lerin ortalarında San Francisco’da yaşarken bluejeans kralı için çalıştığını söyledi. Doğru görünüyordu. Ama değil. Twain ve Strauss aynı dönemde San Francisco’da yaşadılar ama hiç birlikte çalışmadılar.
Bilim adamları buna “halüsinasyon” diyorlar. Tıpkı iyi bir hikaye anlatıcı gibi, sohbet robotlarının da öğrendiklerini alıp yeni bir şeye dönüştürmenin bir yolu var – doğru olup olmadığına bakmaksızın.
LaMDA, yapay zeka araştırmacılarının beyindeki nöronlar ağı üzerinde gevşek bir şekilde modellenmiş matematiksel bir sistem olan sinir ağı dediği şeydir. Bu, Google Çeviri gibi hizmetlerde Fransızca ve İngilizce arasında çeviri yapan ve yayaları şehir sokaklarında kendi kendine giden arabalar olarak tanımlayan teknolojinin aynısıdır.
Bir sinir ağı, verileri analiz ederek becerileri öğrenir. Örneğin, binlerce kedi fotoğrafındaki desenleri saptayarak bir kediyi tanımayı öğrenebilir.
Beş yıl önce, Google’daki araştırmacılar ve OpenAI gibi laboratuvarlar, kitaplar, Wikipedia makaleleri, haberler ve çevrimiçi sohbet günlükleri dahil olmak üzere muazzam miktarda dijital metni analiz eden sinir ağları tasarlamaya başladı. Bilim adamları bunlara “büyük dil modelleri” diyor. İnsanların sözcükleri, sayıları ve sembolleri birbirine bağlama biçimindeki milyarlarca farklı modeli belirleyen bu sistemler, kendi başlarına metin oluşturmayı öğrendiler.
Dil üretme yetenekleri, onları oluşturan araştırmacıların çoğu da dahil olmak üzere, alandaki birçok araştırmacıyı şaşırttı. Teknoloji, insanların yazdıklarını taklit edebilir ve farklı kavramları birleştirebilir. Ondan Jerry’nin kabarcık sıralama algoritması adı verilen ezoterik bir matematik tekniği öğrendiği bir “Seinfeld” sahnesi yazmasını isteyebilirsiniz – ve o da yapardı.
OpenAI, ChatGPT ile teknolojiyi iyileştirmek için çalıştı. Google’ın LaMDA’sının yanı sıra serbest akışlı konuşma yapmaz. Daha çok Siri, Alexa ve diğer dijital asistanlar gibi çalışacak şekilde tasarlandı. LaMDA gibi, ChatGPT de internetten derlenen bir dijital metin denizinde eğitildi.
İnsanlar sistemi test ederken, onlardan yanıtlarını derecelendirmelerini istedi. İnandırıcı mıydılar? Yararlı mıydılar? Onlar doğru muydu? Ardından, pekiştirmeli öğrenme adı verilen bir teknik aracılığıyla, sistemi bilemek ve ne yapıp ne yapmayacağını daha dikkatli bir şekilde tanımlamak için derecelendirmeleri kullandı.
OpenAI’nin baş teknoloji sorumlusu Mira Murati, “Bu, modelin sizinle etkileşime geçebileceği ve yanlış olduğunda kabul edebileceği bir noktaya gelmemizi sağlıyor” dedi. “Uygunsuz bir şeyi reddedebilir ve yanlış olan bir soruya veya önermeye meydan okuyabilir.”
Yöntem mükemmel değildi. OpenAI, ChatGPT kullananları “bazen yanlış bilgiler üretebileceği” ve “zararlı talimatlar veya önyargılı içerik üretebileceği” konusunda uyardı. Ancak şirket, teknolojiyi iyileştirmeye devam etmeyi planlıyor ve onu kullanan insanlara bunun hâlâ bir araştırma projesi olduğunu hatırlatıyor.
Google, Meta ve diğer şirketler de doğruluk sorunlarını ele alıyor. Meta kısa bir süre önce sohbet botu Galactica’nın çevrimiçi önizlemesini kaldırdı çünkü sürekli olarak yanlış ve önyargılı bilgiler üretiyordu.
Uzmanlar, şirketlerin bu teknolojilerin kaderini kontrol edemediği konusunda uyardı. ChatGPT, LaMDA ve Galactica gibi sistemler, yıllardır serbestçe dolaşan fikirlere, araştırma makalelerine ve bilgisayar kodlarına dayanmaktadır.
Google ve OpenAI gibi şirketler, teknolojiyi diğerlerinden daha hızlı ilerletebilir. Ancak en son teknolojileri yeniden üretildi ve geniş çapta dağıtıldı. İnsanların bu sistemleri yanlış bilgi yaymak için kullanmasını engelleyemezler.
Dr. Howard, kızının internette okuduğu her şeye güvenmemeyi öğrenmesini umduğu gibi, toplumun da aynı dersi öğrenmesini umuyordu.
“İnsanları belirli bir bakış açısına ikna etmek için tasarlanmış konuşmalara sahip milyonlarca robotu insan gibi görünecek şekilde programlayabilirsiniz” dedi. “Yıllardır bu konuda uyardım. Şimdi bunun olmasını beklediği açık.”