Google’ın yapay zeka sistemlerinde yerleşik olan önyargıları eleştiren iki araştırmacıyı görevden almasından iki yıldan kısa bir süre sonra şirket, özel bir yapay zeka türünün yetenekleri hakkında yayınladığı bir makaleyi sorgulayan bir araştırmacıyı işten çıkardı. bilgisayar çiplerinin yapımında kullanılır.
Araştırmacı Satrajit Chatterjee, geçen yıl Nature bilim dergisinde yayınlanan ünlü araştırma makalesine meydan okumak için bir bilim insanı ekibine liderlik etti ve bilgisayarların bir bilgisayar çipinin belirli parçalarını eskisinden daha hızlı ve daha iyi tasarlayabildiğini söyledi. insanlar.
43 yaşındaki Dr. Chatterjee, Google’ın ekibine Nature’da ileri sürülen iddiaların bazılarını çürüten bir makale yayınlamayacağını söylemesinden kısa bir süre sonra, duruma aşina olan ve olmayan dört kişinin söylediğine göre Mart ayında kovuldu. bu konuda açıkça konuşmasına izin verildi. Google, yaptığı yazılı bir açıklamada Dr. Chatterjee’nin “sebebe bağlı olarak feshedildiğini” doğruladı.
Google, Dr. Chatterjee’nin görevden alınması hakkında ayrıntılı bilgi vermeyi reddetti, ancak eleştirdiği araştırmayı ve değerlendirmesini yayınlama konusundaki isteksizliğini tüm gücüyle savundu.
Google Research başkan yardımcısı Zoubin Ghahramani, “Orijinal Nature belgesini baştan sona inceledik ve hakemli sonuçların yanındayız” dedi. ifade. “Ayrıca daha sonraki bir başvurunun teknik iddialarını da titizlikle araştırdık ve bu, yayın standartlarımızı karşılamadı.”
Dr. Chatterjee’nin görevden alınması, şirketin geleceğinin anahtarı olarak kabul edilen bir AI araştırma grubu olan Google Brain’deki ve çevresindeki en son anlaşmazlık örneğiydi. Google, en iyi araştırmacıları işe almak ve yeni bilgisayar otomasyonu türleri yaratmak için milyarlarca dolar harcadıktan sonra, bu teknolojileri nasıl oluşturduğu, kullandığı ve tasvir ettiği konusunda çok çeşitli şikayetlerle mücadele etti.
Google’ın yapay zeka araştırmacıları arasındaki gerilim, yeni yapay zeka teknolojileri ve bu teknolojileri ve onları oluşturan insanları birbirine karıştıran çetrefilli sosyal sorunlarla ilgili sayısız soruyla karşı karşıya kalan teknoloji endüstrisindeki çok daha büyük mücadeleleri yansıtıyor.
Yapay Zeka
Google Brain, on yıldan uzun bir süre önce bir grup araştırmacının YouTube videolarında kedileri tanımayı öğrenen bir sistem oluşturmasıyla bir yan proje olarak başladı. Google yöneticileri, makinelerin becerileri kendi kendilerine öğrenebileceği ihtimaline o kadar kapıldılar ki, laboratuvarı hızla genişleterek şirketi bu yeni yapay zeka ile yeniden inşa etmek için bir temel oluşturdular. Araştırma grubu, şirketin en büyük hırslarının sembolü haline geldi.
Ancak Google, teknolojinin potansiyelini tanıtırken bile, uygulama konusunda çalışanlardan dirençle karşılaştı. 2018’de Google çalışanları, şirketin yapay zekasının insanları öldürebileceğinden endişe ederek Savunma Bakanlığı ile bir sözleşmeyi protesto etti. Google sonunda projeden çekildi.
Aralık 2020’de Google, Ethical AI ekibinin liderlerinden biri olan Timnit Gebru’yu şirketin azınlıkları işe alma yaklaşımını eleştirdikten ve yeni bir türdeki kusurlara işaret eden bir araştırma makalesi yayınlamaya zorladıktan sonra görevden aldı. Dil öğrenmek için yapay zeka sistemi.
Google, 2020’de Ethical AI ekibinin lideri Timnit Gebru’yu görevden aldı. Kredi… The New York Times için Cody O’Loughlin
Kovulmadan önce, Dr. Gebru Google tarafından oluşturulan teknoloji de dahil olmak üzere AI tabanlı dil sistemlerinin, kitaplardaki ve web sitelerindeki metinlerden öğrendikleri önyargılı ve nefret dolu dili nasıl kullanabileceği hakkında bir araştırma makalesi yayınlamak için izin arıyordu. Dr. Gebru, Google’ın makaleyi yayınlamayı reddetmesi de dahil olmak üzere bu tür şikayetlere verdiği yanıttan bıktığını söyledi.
Birkaç ay sonra şirket, ekibin diğer başkanı Margaret Mitchell’i işten çıkardı. Şirket, Dr. Mitchell’in davranış kurallarını ihlal ettiğini söyledi.
Nature’da geçen Haziran ayında yayınlanan makale, pekiştirmeli öğrenme adı verilen ve bilgisayar çiplerinin tasarımını iyileştirebileceğini söylediği bir teknolojiyi tanıttı. Teknoloji, yapay zeka için bir atılım ve çip tasarımına yönelik mevcut yaklaşımlarda büyük bir gelişme olarak selamlandı. Google, bu tekniği yapay zeka hesaplama için kendi çiplerini geliştirmek için kullandığını söyledi.
Google, makine öğrenimi tekniğini çip tasarımına uygulamak için yıllardır çalışıyordu ve bir yıl önce benzer bir makale yayınladı. O sıralarda Google, Berkeley’deki California Üniversitesi’nden bilgisayar bilimleri alanında doktorası olan ve Intel’de araştırma bilimcisi olarak çalışan Dr. Chatterjee’den yaklaşımın bir çip tasarım şirketine satılıp satılamayacağını veya lisanslanıp lisanslanamayacağını sordu. , konuyu bilenler söyledi.
Fakat Dr. Chatterjee bir dahili e-postada gazetenin bazı iddialarıyla ilgili çekincelerini dile getirdi ve üç kişi, teknolojinin titizlikle test edilip edilmediğini sorguladı.
Bu araştırmayla ilgili tartışmalar sürerken Google, Nature’a başka bir makale sundu. Gönderim için Google, önceki makalede bazı düzenlemeler yaptı ve Dr. Chatterjee ile yakın bir şekilde çalışan ve ayrıca makalenin ana iddialarıyla ilgili endişelerini dile getiren iki yazarın adını kaldırdı.
Daha yeni makale yayınlandığında, bazı Google araştırmacıları şaşırdı. İnsanlar, şirketin AI çabalarının çoğunu denetleyen kıdemli başkan yardımcısı Jeff Dean’in, Dr. Gebru’nun işten çıkarılmasının ardından gerekli olduğunu söylediği bir yayın onay sürecini takip etmediğine inandıklarını söyledi.
Google ve makalenin iki baş yazarından biri olan ve bir bilgisayar bilimcisi olan Azalia Mirhoseini ile birlikte yazan Anna Goldie, önceki makaledeki değişikliklerin tam onay sürecini gerektirmediğini söyledi. Google, Dr. Chatterjee ile bir avuç iç ve dış araştırmacının, iddialarından bazılarına meydan okuyan bir kağıt üzerinde çalışmasına izin verdi.
Ekip, çürütme belgesini yayın onayı için sözde bir çözüm komitesine sundu. Aylar sonra, kağıt reddedildi.
Çürütme raporu üzerinde çalışan araştırmacılar, konuyu Bay Pichai ve Alphabet’in yönetim kuruluna iletmek istediklerini söylediler. Google’ın çürütmeyi yayınlamama kararının, yüksek bilimsel mükemmellik standartlarını desteklemek de dahil olmak üzere kendi AI ilkelerini ihlal ettiğini savundular. İnsanlar, kısa bir süre sonra Dr. Chatterjee’nin artık bir çalışan olmadığı konusunda bilgilendirildiğini söyledi.
Bayan Goldie, Dr. Chatterjee’nin projelerini 2019’da yönetmek istediğini ve reddettiklerini söyledi. Daha sonra eleştirdiğinde, şikayetlerini kanıtlayamadığını ve yanıt olarak sundukları kanıtları görmezden geldiğini söyledi.
“Sat Chatterjee iki yıldan fazla bir süredir bana ve Azalia’ya karşı bir yanlış bilgilendirme kampanyası yürütüyor” dedi Bayan Goldie.
Çalışmanın en prestijli bilimsel yayınlardan biri olan Nature tarafından hakemli olarak gözden geçirildiğini söyledi. Google’ın yeni çipler oluşturmak için kendi yöntemlerini kullandığını ve bu çiplerin şu anda Google’ın bilgisayar veri merkezlerinde kullanıldığını sözlerine ekledi.
Dr. Chatterjee’nin avukatı Laurie M. Burgess, “Nature gazetesinin bazı yazarlarının Dr. Chatterjee’ye sadece bilimsel şeffaflık aradığı için hakaret ederek ve saldırarak bilimsel tartışmaları kapatmaya çalışmasının” hayal kırıklığı yarattığını söyledi. Bayan Burgess, Nature gazetesinin 20 ortak yazarından biri olan Dr. Dean’in liderliğini de sorguladı.
“Jeff Dean’in, yalnızca tercih ettiği hipotezi destekleyen veriler değil, ilgili tüm deneysel verilerin yayınlanmasını engellemeye yönelik eylemleri, hem bilim camiasını hem de Google hizmetlerini ve ürünlerini tüketen daha geniş topluluğu derinden rahatsız ediyor olmalıdır.” dedi Bayan Burgess.
Dr. Dean, yorum talebine yanıt vermedi.
Çürütme raporu akademisyenler ve Google dışındaki diğer uzmanlarla paylaşıldıktan sonra, tartışma çip tasarımında uzmanlaşan küresel araştırmacılar topluluğuna yayıldı.
Yonga üreticisi Nvidia, çip tasarımı için Google’ınkine benzer yöntemler kullandığını söylüyor, ancak bazı uzmanlar Google’ın araştırmasının daha büyük teknoloji endüstrisi için ne anlama geldiğinden emin değil.
Almanya’daki Dresden Teknoloji Üniversitesi’nde profesör olan Jens Lienig, Google’ın makalesinde açıklanan AI teknolojisine atıfta bulunarak “Bu gerçekten iyi çalışıyorsa, gerçekten harika bir şey olurdu” dedi. “Ama işe yarayıp yaramadığı belli değil.”
Araştırmacı Satrajit Chatterjee, geçen yıl Nature bilim dergisinde yayınlanan ünlü araştırma makalesine meydan okumak için bir bilim insanı ekibine liderlik etti ve bilgisayarların bir bilgisayar çipinin belirli parçalarını eskisinden daha hızlı ve daha iyi tasarlayabildiğini söyledi. insanlar.
43 yaşındaki Dr. Chatterjee, Google’ın ekibine Nature’da ileri sürülen iddiaların bazılarını çürüten bir makale yayınlamayacağını söylemesinden kısa bir süre sonra, duruma aşina olan ve olmayan dört kişinin söylediğine göre Mart ayında kovuldu. bu konuda açıkça konuşmasına izin verildi. Google, yaptığı yazılı bir açıklamada Dr. Chatterjee’nin “sebebe bağlı olarak feshedildiğini” doğruladı.
Google, Dr. Chatterjee’nin görevden alınması hakkında ayrıntılı bilgi vermeyi reddetti, ancak eleştirdiği araştırmayı ve değerlendirmesini yayınlama konusundaki isteksizliğini tüm gücüyle savundu.
Google Research başkan yardımcısı Zoubin Ghahramani, “Orijinal Nature belgesini baştan sona inceledik ve hakemli sonuçların yanındayız” dedi. ifade. “Ayrıca daha sonraki bir başvurunun teknik iddialarını da titizlikle araştırdık ve bu, yayın standartlarımızı karşılamadı.”
Dr. Chatterjee’nin görevden alınması, şirketin geleceğinin anahtarı olarak kabul edilen bir AI araştırma grubu olan Google Brain’deki ve çevresindeki en son anlaşmazlık örneğiydi. Google, en iyi araştırmacıları işe almak ve yeni bilgisayar otomasyonu türleri yaratmak için milyarlarca dolar harcadıktan sonra, bu teknolojileri nasıl oluşturduğu, kullandığı ve tasvir ettiği konusunda çok çeşitli şikayetlerle mücadele etti.
Google’ın yapay zeka araştırmacıları arasındaki gerilim, yeni yapay zeka teknolojileri ve bu teknolojileri ve onları oluşturan insanları birbirine karıştıran çetrefilli sosyal sorunlarla ilgili sayısız soruyla karşı karşıya kalan teknoloji endüstrisindeki çok daha büyük mücadeleleri yansıtıyor.
Yapay Zeka
- Bu İnsanlar Gerçek mi?: Bizim Bir bilgisayarın sahte yüzler oluşturmasının ne kadar kolay olduğunu anlamak için kendi AI sistemi.
- Hayatı Taklit Etmek: Yeni yapay zeka sistemleri, komutunuzda orijinal düzyazı yazabilir ve bir görüntü oluşturabilir. Etkileri derin olabilir.
- Pokeri Fethetmek: AI tabanlı araçlar, özellikle oyunun en yüksek seviyelerinde pokerin oynanma şeklini kökten yeniden şekillendirdi.
- Watson’a Ne Oldu? : IBM’nin süper bilgisayarının endüstrileri dönüştürmesi ve şirket için zenginlik yaratması gerekiyordu. Her iki hırs da gerçekleşmedi.
- Yapay Zeka/Gerçek Hayat Serisi: Zihinsel bozuklukları belirlemekten sohbet robotlarını daha akıllı hale getirmeye kadar, The Times yapay zekanın günlük sorunları çözme potansiyeline bakıyor.
Google Brain, on yıldan uzun bir süre önce bir grup araştırmacının YouTube videolarında kedileri tanımayı öğrenen bir sistem oluşturmasıyla bir yan proje olarak başladı. Google yöneticileri, makinelerin becerileri kendi kendilerine öğrenebileceği ihtimaline o kadar kapıldılar ki, laboratuvarı hızla genişleterek şirketi bu yeni yapay zeka ile yeniden inşa etmek için bir temel oluşturdular. Araştırma grubu, şirketin en büyük hırslarının sembolü haline geldi.
Ancak Google, teknolojinin potansiyelini tanıtırken bile, uygulama konusunda çalışanlardan dirençle karşılaştı. 2018’de Google çalışanları, şirketin yapay zekasının insanları öldürebileceğinden endişe ederek Savunma Bakanlığı ile bir sözleşmeyi protesto etti. Google sonunda projeden çekildi.
Aralık 2020’de Google, Ethical AI ekibinin liderlerinden biri olan Timnit Gebru’yu şirketin azınlıkları işe alma yaklaşımını eleştirdikten ve yeni bir türdeki kusurlara işaret eden bir araştırma makalesi yayınlamaya zorladıktan sonra görevden aldı. Dil öğrenmek için yapay zeka sistemi.
Google, 2020’de Ethical AI ekibinin lideri Timnit Gebru’yu görevden aldı. Kredi… The New York Times için Cody O’Loughlin
Kovulmadan önce, Dr. Gebru Google tarafından oluşturulan teknoloji de dahil olmak üzere AI tabanlı dil sistemlerinin, kitaplardaki ve web sitelerindeki metinlerden öğrendikleri önyargılı ve nefret dolu dili nasıl kullanabileceği hakkında bir araştırma makalesi yayınlamak için izin arıyordu. Dr. Gebru, Google’ın makaleyi yayınlamayı reddetmesi de dahil olmak üzere bu tür şikayetlere verdiği yanıttan bıktığını söyledi.
Birkaç ay sonra şirket, ekibin diğer başkanı Margaret Mitchell’i işten çıkardı. Şirket, Dr. Mitchell’in davranış kurallarını ihlal ettiğini söyledi.
Nature’da geçen Haziran ayında yayınlanan makale, pekiştirmeli öğrenme adı verilen ve bilgisayar çiplerinin tasarımını iyileştirebileceğini söylediği bir teknolojiyi tanıttı. Teknoloji, yapay zeka için bir atılım ve çip tasarımına yönelik mevcut yaklaşımlarda büyük bir gelişme olarak selamlandı. Google, bu tekniği yapay zeka hesaplama için kendi çiplerini geliştirmek için kullandığını söyledi.
Google, makine öğrenimi tekniğini çip tasarımına uygulamak için yıllardır çalışıyordu ve bir yıl önce benzer bir makale yayınladı. O sıralarda Google, Berkeley’deki California Üniversitesi’nden bilgisayar bilimleri alanında doktorası olan ve Intel’de araştırma bilimcisi olarak çalışan Dr. Chatterjee’den yaklaşımın bir çip tasarım şirketine satılıp satılamayacağını veya lisanslanıp lisanslanamayacağını sordu. , konuyu bilenler söyledi.
Fakat Dr. Chatterjee bir dahili e-postada gazetenin bazı iddialarıyla ilgili çekincelerini dile getirdi ve üç kişi, teknolojinin titizlikle test edilip edilmediğini sorguladı.
Bu araştırmayla ilgili tartışmalar sürerken Google, Nature’a başka bir makale sundu. Gönderim için Google, önceki makalede bazı düzenlemeler yaptı ve Dr. Chatterjee ile yakın bir şekilde çalışan ve ayrıca makalenin ana iddialarıyla ilgili endişelerini dile getiren iki yazarın adını kaldırdı.
Daha yeni makale yayınlandığında, bazı Google araştırmacıları şaşırdı. İnsanlar, şirketin AI çabalarının çoğunu denetleyen kıdemli başkan yardımcısı Jeff Dean’in, Dr. Gebru’nun işten çıkarılmasının ardından gerekli olduğunu söylediği bir yayın onay sürecini takip etmediğine inandıklarını söyledi.
Google ve makalenin iki baş yazarından biri olan ve bir bilgisayar bilimcisi olan Azalia Mirhoseini ile birlikte yazan Anna Goldie, önceki makaledeki değişikliklerin tam onay sürecini gerektirmediğini söyledi. Google, Dr. Chatterjee ile bir avuç iç ve dış araştırmacının, iddialarından bazılarına meydan okuyan bir kağıt üzerinde çalışmasına izin verdi.
Ekip, çürütme belgesini yayın onayı için sözde bir çözüm komitesine sundu. Aylar sonra, kağıt reddedildi.
Çürütme raporu üzerinde çalışan araştırmacılar, konuyu Bay Pichai ve Alphabet’in yönetim kuruluna iletmek istediklerini söylediler. Google’ın çürütmeyi yayınlamama kararının, yüksek bilimsel mükemmellik standartlarını desteklemek de dahil olmak üzere kendi AI ilkelerini ihlal ettiğini savundular. İnsanlar, kısa bir süre sonra Dr. Chatterjee’nin artık bir çalışan olmadığı konusunda bilgilendirildiğini söyledi.
Bayan Goldie, Dr. Chatterjee’nin projelerini 2019’da yönetmek istediğini ve reddettiklerini söyledi. Daha sonra eleştirdiğinde, şikayetlerini kanıtlayamadığını ve yanıt olarak sundukları kanıtları görmezden geldiğini söyledi.
“Sat Chatterjee iki yıldan fazla bir süredir bana ve Azalia’ya karşı bir yanlış bilgilendirme kampanyası yürütüyor” dedi Bayan Goldie.
Çalışmanın en prestijli bilimsel yayınlardan biri olan Nature tarafından hakemli olarak gözden geçirildiğini söyledi. Google’ın yeni çipler oluşturmak için kendi yöntemlerini kullandığını ve bu çiplerin şu anda Google’ın bilgisayar veri merkezlerinde kullanıldığını sözlerine ekledi.
Dr. Chatterjee’nin avukatı Laurie M. Burgess, “Nature gazetesinin bazı yazarlarının Dr. Chatterjee’ye sadece bilimsel şeffaflık aradığı için hakaret ederek ve saldırarak bilimsel tartışmaları kapatmaya çalışmasının” hayal kırıklığı yarattığını söyledi. Bayan Burgess, Nature gazetesinin 20 ortak yazarından biri olan Dr. Dean’in liderliğini de sorguladı.
“Jeff Dean’in, yalnızca tercih ettiği hipotezi destekleyen veriler değil, ilgili tüm deneysel verilerin yayınlanmasını engellemeye yönelik eylemleri, hem bilim camiasını hem de Google hizmetlerini ve ürünlerini tüketen daha geniş topluluğu derinden rahatsız ediyor olmalıdır.” dedi Bayan Burgess.
Dr. Dean, yorum talebine yanıt vermedi.
Çürütme raporu akademisyenler ve Google dışındaki diğer uzmanlarla paylaşıldıktan sonra, tartışma çip tasarımında uzmanlaşan küresel araştırmacılar topluluğuna yayıldı.
Yonga üreticisi Nvidia, çip tasarımı için Google’ınkine benzer yöntemler kullandığını söylüyor, ancak bazı uzmanlar Google’ın araştırmasının daha büyük teknoloji endüstrisi için ne anlama geldiğinden emin değil.
Almanya’daki Dresden Teknoloji Üniversitesi’nde profesör olan Jens Lienig, Google’ın makalesinde açıklanan AI teknolojisine atıfta bulunarak “Bu gerçekten iyi çalışıyorsa, gerçekten harika bir şey olurdu” dedi. “Ama işe yarayıp yaramadığı belli değil.”