SAN FRANCISCO – Nisan ayında, Anthropic adlı bir San Francisco yapay zeka laboratuvarı, “AI güvenliği” konulu araştırma için 580 milyon dolar topladı.
Silikon Vadisi’nde çok az kişi, dil üreten yapay zeka sistemleri inşa eden bir yıllık laboratuvarı duymuştu. Ancak küçük şirkete vaat edilen para miktarı, risk sermayedarlarının, alandaki en deneyimli araştırmacılardan bazılarıyla dolu olanlar da dahil olmak üzere, diğer yapay zeka girişimlerine yaptıkları yatırımları gölgede bıraktı.
Finansman turu, geçen ay iflas başvurusunda bulunan kripto para borsası FTX’in kurucusu ve CEO’su Sam Bankman-Fried tarafından yönetildi. FTX’in ani çöküşünden sonra, sızan bir bilanço Bay Bankman-Fried ve meslektaşlarının Anthropic’e en az 500 milyon dolar yatırdığını gösterdi.
Yatırımları, Bay Bankman-Fried’in çevresindeki birçok kişinin sonunda dünyayı ve insanlığa zarar verebileceğine inandığı yapay zekanın tehlikelerini keşfetmeye ve hafifletmeye yönelik sessiz ve Don Kişotvari bir çabanın parçasıydı. Son iki yılda, 30 yaşındaki girişimci ve FTX meslektaşları, hibeler veya yatırımlar yoluyla 70’ten fazla yapay zeka bağlantılı şirkete, akademik laboratuvara, düşünce kuruluşuna, bağımsız projeye ve bireysel araştırmacıya 530 milyon dolardan fazla para aktardı. The New York Times’ın bir çetelesine göre, teknolojiyle ilgili endişeleri giderin.
AI çabalarına yakın olan ve halka açık konuşma yetkisi olmayan dört kişi, şimdi bu kuruluşlardan ve bireylerden bazılarının bu parayı harcamaya devam edip edemeyeceklerinden emin olmadıklarını söyledi. Bay Bankman-Fried’in düşüşünün araştırmaları üzerinde şüphe uyandırabileceğinden ve itibarlarını zedeleyebileceğinden endişe duyduklarını söylediler. Ve bazı yapay zeka startup’ları ve organizasyonlarının sonunda kendilerini FTX’in iflas işlemlerine karışmış halde bulabileceklerini ve hibelerinin potansiyel olarak mahkemede geri alınacağını söylediler.
Yapay zeka dünyasındaki endişeler, FTX’in dağılmasından kaynaklanan beklenmedik bir serpinti, kripto borsasının çöküşünün dalgalanma etkilerinin ve Bay Bankman-Fried’in buharlaşan servetinin ne kadar yol kat ettiğini gösteriyor.
Çarşamba günü DealBook Zirvesi sırasında Sam Bankman-Fried. Yapay zekayı etkileme girişimleri, etkili özgecilik olarak bilinen hayırsever bir felsefenin parçasıdır. Kredi… Hiroko Masuike/New York Times
Yale Hukuk Fakültesi’nde yapay zeka riskleri konusunda uzmanlaşmış bir avukat ve misafir öğretim üyesi olan Andrew Burt, yapay zeka ve kripto hakkında, “Bazıları, bu iki gelişen teknoloji alanı arasındaki bağlantıya şaşırabilir,” dedi. “Ancak yüzeyin altında, ikisi arasında doğrudan bağlantılar var.”
Çarşamba günü The Times’ın DealBook konferansında konuşan ve FTX’in çöküşüyle ilgili soruşturmalarla karşı karşıya olan Bay Bankman-Fried yorum yapmaktan kaçındı. Anthropic, şirkete yaptığı yatırım hakkında yorum yapmaktan kaçındı.
Bay Bankman-Fried’in AI’yı etkileme girişimleri, bağışçıların uzun vadede bağışlarının etkisini en üst düzeye çıkarmaya çalıştıkları hayırsever bir hareket olan “etkili fedakarlık” a dahil olmasından kaynaklanmaktadır. Etkili özgeciler genellikle salgın hastalıklar, biyolojik silahlar ve nükleer savaş gibi yıkıcı riskler olarak adlandırdıkları şeylerle ilgilenirler.
FTX’in Çöküşünün Ardından
Kripto borsasının ani çöküşü sektörü şaşkına çevirdi.
Son on yılda, Google’ın ana şirketinin sahibi olduğu DeepMind ve Elon Musk ve diğerleri tarafından kurulan OpenAI dahil olmak üzere birçok etkili fedakar, en iyi AI araştırma laboratuvarlarında çalıştı. AI sistemlerinin zarar vermek için nasıl kullanılabileceğini veya beklenmedik bir şekilde kendi başlarına arızalanabileceğini keşfetmeyi amaçlayan AI güvenliği adlı bir araştırma alanının oluşturulmasına yardımcı oldular.
Etkili özgeciler, politikayı şekillendiren Washington düşünce kuruluşlarında benzer araştırmaların yapılmasına yardımcı oldu. Georgetown Üniversitesi’nin AI ve diğer gelişen teknolojilerin ulusal güvenlik üzerindeki etkisini inceleyen Güvenlik ve Gelişen Teknoloji Merkezi, Facebook’un kurucu ortağı Dustin Moskovitz tarafından desteklenen etkili bir fedakar yardım kuruluşu olan Open Philanthropy tarafından büyük ölçüde finanse edildi. Etkili özgeciler, bu düşünce kuruluşlarında araştırmacı olarak da çalışırlar.
Bay Bankman-Fried, 2014’ten beri etkili özgeci hareketin bir parçası. Vermek için kazanmak adlı bir yaklaşımı benimseyerek, Nisan ayında The Times’a çok daha büyük miktarlarda parayı dağıtabilmek için kasten kazançlı bir kariyer seçtiğini söyledi.
Şubat ayında, o ve birkaç FTX meslektaşı, “insanlığın uzun vadeli umutlarını iyileştirmek için iddialı projeleri” destekleyecek olan Gelecek Fonu’nu duyurdu. Fon kısmen, Etkili Altruizm Merkezi’nin kurucusu Will MacAskill ve hareketin diğer önemli figürleri tarafından yönetildi.
Etkili Altruizm Merkezi’nin kurucularından Will MacAskill, 2018’de bir TED Konuşması yaptı. Kredi… Lawrence Sumulong/Getty Images
Gelecek Fonu, salgına hazırlık ve ekonomik büyümeyi içeren araştırmalar da dahil olmak üzere Eylül ayının başına kadar çok çeşitli projelere 160 milyon dolar hibe sözü verdi. Yapay zeka ile ilgili fikirleri araştıran bir dizi kuruluşa ve kişiye yapılan bağışlar için yaklaşık 30 milyon dolar ayrıldı.
Future Fund’ın AI ile ilgili hibeleri arasında, az bilinen bir şirket olan Lightcone Infrastructure’a verilen 2 milyon dolar vardı. Lightcone, 2000’lerin ortalarında yapay zekanın bir gün insanlığı yok etme olasılığını keşfetmeye başlayan çevrimiçi tartışma sitesi LessWrong’u yönetiyor.
Bankman-Fried ve meslektaşları ayrıca, gelecekteki AI sistemlerini insan çıkarlarıyla uyumlu hale getirmeyi amaçlayan Hizalama Araştırma Merkezi’ne 1,25 milyon $ dahil olmak üzere, AI’nın uzun vadeli risklerini azaltmak için çalışan birkaç başka çabayı da finanse etti. teknoloji haydut gitmez. Ayrıca Cornell Üniversitesi’ndeki benzer araştırmalar için 1,5 milyon dolar verdiler.
Future Fund ayrıca, tweet, e-posta ve blog gönderileri yazabilen ve hatta bilgisayar programları oluşturabilen, giderek daha güçlü bir AI türü olan “büyük dil modelleri” içeren üç projeye yaklaşık 6 milyon dolar bağışladı. Hibeler, teknolojinin yanlış bilgi yaymak ve bu sistemlerden beklenmeyen ve istenmeyen davranışları azaltmak için nasıl kullanılabileceğini hafifletmeye yardımcı olmayı amaçlıyordu.
FTX iflas başvurusunda bulunduktan sonra, Bay MacAskill ve Future Fund’ı yöneten diğerleri, arkasındaki “ticari faaliyetlerin meşruiyeti ve bütünlüğü hakkındaki temel soruları” öne sürerek projeden istifa ettiler. Bay MacAskill, yorum talebine yanıt vermedi.
Future Fund’ın hibelerinin ötesinde, Bay Bankman-Fried ve meslektaşları, Anthropic’in 500 milyon dolarlık finansmanıyla yeni kurulan şirketlere doğrudan yatırım yaptı. Şirket, 2021’de OpenAI’den ayrılan etkili fedakarlardan oluşan bir grubun da aralarında bulunduğu bir grup tarafından kuruldu. Oluşturulması on milyonlarca dolara mal olabilecek kendi dil modellerini geliştirerek yapay zekayı daha güvenli hale getirmek için çalışıyor.
Bazı kuruluşlar ve bireyler fonlarını Bay Bankman-Fried ve meslektaşlarından çoktan almıştır. Diğerleri, kendilerine vaat edilenin yalnızca bir kısmını aldı. Kuruluşlar hakkında bilgi sahibi olan dört kişi, bazılarının hibelerin FTX’in alacaklılarına iade edilmesi gerekip gerekmeyeceğinden emin olmadığını söyledi.
Allen Yapay Zeka Enstitüsü’nden Oren Etzioni, etkili özgeci topluluğun bazen günümüz teknolojilerini olduğundan daha güçlü veya daha tehlikeli gösterdiğini söyledi. Kredi… The New York Times için Kyle Johnson
Hayır kurumlarında uzmanlaşmış hukuk firması Loeb & Loeb’in ortağı Jason Lilien, bağışçılar iflas ettiğinde yardım kuruluşlarının geri almalara karşı savunmasız olduğunu söyledi. İflas etmiş şirketlerden girişim yatırımı alan şirketler, hayır kurumlarından biraz daha güçlü bir konumda olabilir, ancak geri alma iddialarına karşı da savunmasızdırlar, dedi.
Open Philanthropy tarafından desteklenen Georgetown düşünce kuruluşu Güvenlik ve Gelişen Teknoloji Merkezi’nin direktörü Dewey Murdick, etkili fedakarların yapay zekayı içeren önemli araştırmalara katkıda bulunduğunu söyledi.
Yapay zeka sistemlerinin güvenliği göz önünde bulundurarak nasıl tasarlanabileceği konusunda nasıl daha fazla tartışma olduğunu belirterek, “Finansmanı artırdıkları için bu konulara olan ilgiyi artırdı” dedi.
Ancak Seattle’daki bir AI laboratuvarı olan Allen Yapay Zeka Enstitüsü’nden Oren Etzioni, etkili özgeci topluluğun görüşlerinin bazen aşırı olduğunu ve bunların günümüz teknolojilerini gerçekte olduğundan daha güçlü veya daha tehlikeli gösterdiğini söyledi.
Gelecek Fonu’nun bu yıl kendisine insan beyninin yapabileceği her şeyi yapabilen bir makine olan “yapay genel zekanın” gelişini ve risklerini tahmin etmeye yardımcı olacak araştırma için para teklif ettiğini söyledi. Ancak bu fikir, güvenilir bir şekilde tahmin edilebilecek bir şey değil, dedi Bay Etzioni, çünkü bilim adamları henüz onu nasıl inşa edeceklerini bilmiyorlar.
“Bunlar, son derece spekülatif bir girişime para yatıran akıllı, samimi insanlar” dedi.
Silikon Vadisi’nde çok az kişi, dil üreten yapay zeka sistemleri inşa eden bir yıllık laboratuvarı duymuştu. Ancak küçük şirkete vaat edilen para miktarı, risk sermayedarlarının, alandaki en deneyimli araştırmacılardan bazılarıyla dolu olanlar da dahil olmak üzere, diğer yapay zeka girişimlerine yaptıkları yatırımları gölgede bıraktı.
Finansman turu, geçen ay iflas başvurusunda bulunan kripto para borsası FTX’in kurucusu ve CEO’su Sam Bankman-Fried tarafından yönetildi. FTX’in ani çöküşünden sonra, sızan bir bilanço Bay Bankman-Fried ve meslektaşlarının Anthropic’e en az 500 milyon dolar yatırdığını gösterdi.
Yatırımları, Bay Bankman-Fried’in çevresindeki birçok kişinin sonunda dünyayı ve insanlığa zarar verebileceğine inandığı yapay zekanın tehlikelerini keşfetmeye ve hafifletmeye yönelik sessiz ve Don Kişotvari bir çabanın parçasıydı. Son iki yılda, 30 yaşındaki girişimci ve FTX meslektaşları, hibeler veya yatırımlar yoluyla 70’ten fazla yapay zeka bağlantılı şirkete, akademik laboratuvara, düşünce kuruluşuna, bağımsız projeye ve bireysel araştırmacıya 530 milyon dolardan fazla para aktardı. The New York Times’ın bir çetelesine göre, teknolojiyle ilgili endişeleri giderin.
AI çabalarına yakın olan ve halka açık konuşma yetkisi olmayan dört kişi, şimdi bu kuruluşlardan ve bireylerden bazılarının bu parayı harcamaya devam edip edemeyeceklerinden emin olmadıklarını söyledi. Bay Bankman-Fried’in düşüşünün araştırmaları üzerinde şüphe uyandırabileceğinden ve itibarlarını zedeleyebileceğinden endişe duyduklarını söylediler. Ve bazı yapay zeka startup’ları ve organizasyonlarının sonunda kendilerini FTX’in iflas işlemlerine karışmış halde bulabileceklerini ve hibelerinin potansiyel olarak mahkemede geri alınacağını söylediler.
Yapay zeka dünyasındaki endişeler, FTX’in dağılmasından kaynaklanan beklenmedik bir serpinti, kripto borsasının çöküşünün dalgalanma etkilerinin ve Bay Bankman-Fried’in buharlaşan servetinin ne kadar yol kat ettiğini gösteriyor.
Çarşamba günü DealBook Zirvesi sırasında Sam Bankman-Fried. Yapay zekayı etkileme girişimleri, etkili özgecilik olarak bilinen hayırsever bir felsefenin parçasıdır. Kredi… Hiroko Masuike/New York Times
Yale Hukuk Fakültesi’nde yapay zeka riskleri konusunda uzmanlaşmış bir avukat ve misafir öğretim üyesi olan Andrew Burt, yapay zeka ve kripto hakkında, “Bazıları, bu iki gelişen teknoloji alanı arasındaki bağlantıya şaşırabilir,” dedi. “Ancak yüzeyin altında, ikisi arasında doğrudan bağlantılar var.”
Çarşamba günü The Times’ın DealBook konferansında konuşan ve FTX’in çöküşüyle ilgili soruşturmalarla karşı karşıya olan Bay Bankman-Fried yorum yapmaktan kaçındı. Anthropic, şirkete yaptığı yatırım hakkında yorum yapmaktan kaçındı.
Bay Bankman-Fried’in AI’yı etkileme girişimleri, bağışçıların uzun vadede bağışlarının etkisini en üst düzeye çıkarmaya çalıştıkları hayırsever bir hareket olan “etkili fedakarlık” a dahil olmasından kaynaklanmaktadır. Etkili özgeciler genellikle salgın hastalıklar, biyolojik silahlar ve nükleer savaş gibi yıkıcı riskler olarak adlandırdıkları şeylerle ilgilenirler.
FTX’in Çöküşünün Ardından
Kripto borsasının ani çöküşü sektörü şaşkına çevirdi.
- Muhteşem Bir Yükseliş ve Düşüş: Sam Bankman-Fried kimdir ve nasıl kripto paranın yüzü oldu? Daily, FTX’in arkasındaki adamın muhteşem yükselişini ve düşüşünü kaydetti.
- Güce Tutunmak:E-postalar ve kısa mesajlar, FTX avukatlarının ve yöneticilerinin, Bay Bankman-Fried’i çökmekte olan şirketinin kontrolünü bırakması için nasıl ikna etmeye çalıştıklarını gösteriyor.
- Tali hasar:Kripto çılgınlığının bir parçası olmak isteyen sıradan yatırımcıları hedef alan bir kripto para kredi kuruluşu olan BlockFi, 28 Kasım’da iflas başvurusunda bulundu ve FTX ile mali bağları nedeniyle düştü.
- Simbiyotik Bir İlişki: Bay Bankman-Fried, FTX’i kısmen ilk şirketi olan Alameda Research’ün ticaret işine yardımcı olmak için kurdu. İki taraf arasındaki bağlar şimdi inceleme altına alınıyor.
Son on yılda, Google’ın ana şirketinin sahibi olduğu DeepMind ve Elon Musk ve diğerleri tarafından kurulan OpenAI dahil olmak üzere birçok etkili fedakar, en iyi AI araştırma laboratuvarlarında çalıştı. AI sistemlerinin zarar vermek için nasıl kullanılabileceğini veya beklenmedik bir şekilde kendi başlarına arızalanabileceğini keşfetmeyi amaçlayan AI güvenliği adlı bir araştırma alanının oluşturulmasına yardımcı oldular.
Etkili özgeciler, politikayı şekillendiren Washington düşünce kuruluşlarında benzer araştırmaların yapılmasına yardımcı oldu. Georgetown Üniversitesi’nin AI ve diğer gelişen teknolojilerin ulusal güvenlik üzerindeki etkisini inceleyen Güvenlik ve Gelişen Teknoloji Merkezi, Facebook’un kurucu ortağı Dustin Moskovitz tarafından desteklenen etkili bir fedakar yardım kuruluşu olan Open Philanthropy tarafından büyük ölçüde finanse edildi. Etkili özgeciler, bu düşünce kuruluşlarında araştırmacı olarak da çalışırlar.
Bay Bankman-Fried, 2014’ten beri etkili özgeci hareketin bir parçası. Vermek için kazanmak adlı bir yaklaşımı benimseyerek, Nisan ayında The Times’a çok daha büyük miktarlarda parayı dağıtabilmek için kasten kazançlı bir kariyer seçtiğini söyledi.
Şubat ayında, o ve birkaç FTX meslektaşı, “insanlığın uzun vadeli umutlarını iyileştirmek için iddialı projeleri” destekleyecek olan Gelecek Fonu’nu duyurdu. Fon kısmen, Etkili Altruizm Merkezi’nin kurucusu Will MacAskill ve hareketin diğer önemli figürleri tarafından yönetildi.
Etkili Altruizm Merkezi’nin kurucularından Will MacAskill, 2018’de bir TED Konuşması yaptı. Kredi… Lawrence Sumulong/Getty Images
Gelecek Fonu, salgına hazırlık ve ekonomik büyümeyi içeren araştırmalar da dahil olmak üzere Eylül ayının başına kadar çok çeşitli projelere 160 milyon dolar hibe sözü verdi. Yapay zeka ile ilgili fikirleri araştıran bir dizi kuruluşa ve kişiye yapılan bağışlar için yaklaşık 30 milyon dolar ayrıldı.
Future Fund’ın AI ile ilgili hibeleri arasında, az bilinen bir şirket olan Lightcone Infrastructure’a verilen 2 milyon dolar vardı. Lightcone, 2000’lerin ortalarında yapay zekanın bir gün insanlığı yok etme olasılığını keşfetmeye başlayan çevrimiçi tartışma sitesi LessWrong’u yönetiyor.
Bankman-Fried ve meslektaşları ayrıca, gelecekteki AI sistemlerini insan çıkarlarıyla uyumlu hale getirmeyi amaçlayan Hizalama Araştırma Merkezi’ne 1,25 milyon $ dahil olmak üzere, AI’nın uzun vadeli risklerini azaltmak için çalışan birkaç başka çabayı da finanse etti. teknoloji haydut gitmez. Ayrıca Cornell Üniversitesi’ndeki benzer araştırmalar için 1,5 milyon dolar verdiler.
Future Fund ayrıca, tweet, e-posta ve blog gönderileri yazabilen ve hatta bilgisayar programları oluşturabilen, giderek daha güçlü bir AI türü olan “büyük dil modelleri” içeren üç projeye yaklaşık 6 milyon dolar bağışladı. Hibeler, teknolojinin yanlış bilgi yaymak ve bu sistemlerden beklenmeyen ve istenmeyen davranışları azaltmak için nasıl kullanılabileceğini hafifletmeye yardımcı olmayı amaçlıyordu.
FTX iflas başvurusunda bulunduktan sonra, Bay MacAskill ve Future Fund’ı yöneten diğerleri, arkasındaki “ticari faaliyetlerin meşruiyeti ve bütünlüğü hakkındaki temel soruları” öne sürerek projeden istifa ettiler. Bay MacAskill, yorum talebine yanıt vermedi.
Future Fund’ın hibelerinin ötesinde, Bay Bankman-Fried ve meslektaşları, Anthropic’in 500 milyon dolarlık finansmanıyla yeni kurulan şirketlere doğrudan yatırım yaptı. Şirket, 2021’de OpenAI’den ayrılan etkili fedakarlardan oluşan bir grubun da aralarında bulunduğu bir grup tarafından kuruldu. Oluşturulması on milyonlarca dolara mal olabilecek kendi dil modellerini geliştirerek yapay zekayı daha güvenli hale getirmek için çalışıyor.
Bazı kuruluşlar ve bireyler fonlarını Bay Bankman-Fried ve meslektaşlarından çoktan almıştır. Diğerleri, kendilerine vaat edilenin yalnızca bir kısmını aldı. Kuruluşlar hakkında bilgi sahibi olan dört kişi, bazılarının hibelerin FTX’in alacaklılarına iade edilmesi gerekip gerekmeyeceğinden emin olmadığını söyledi.
Allen Yapay Zeka Enstitüsü’nden Oren Etzioni, etkili özgeci topluluğun bazen günümüz teknolojilerini olduğundan daha güçlü veya daha tehlikeli gösterdiğini söyledi. Kredi… The New York Times için Kyle Johnson
Hayır kurumlarında uzmanlaşmış hukuk firması Loeb & Loeb’in ortağı Jason Lilien, bağışçılar iflas ettiğinde yardım kuruluşlarının geri almalara karşı savunmasız olduğunu söyledi. İflas etmiş şirketlerden girişim yatırımı alan şirketler, hayır kurumlarından biraz daha güçlü bir konumda olabilir, ancak geri alma iddialarına karşı da savunmasızdırlar, dedi.
Open Philanthropy tarafından desteklenen Georgetown düşünce kuruluşu Güvenlik ve Gelişen Teknoloji Merkezi’nin direktörü Dewey Murdick, etkili fedakarların yapay zekayı içeren önemli araştırmalara katkıda bulunduğunu söyledi.
Yapay zeka sistemlerinin güvenliği göz önünde bulundurarak nasıl tasarlanabileceği konusunda nasıl daha fazla tartışma olduğunu belirterek, “Finansmanı artırdıkları için bu konulara olan ilgiyi artırdı” dedi.
Ancak Seattle’daki bir AI laboratuvarı olan Allen Yapay Zeka Enstitüsü’nden Oren Etzioni, etkili özgeci topluluğun görüşlerinin bazen aşırı olduğunu ve bunların günümüz teknolojilerini gerçekte olduğundan daha güçlü veya daha tehlikeli gösterdiğini söyledi.
Gelecek Fonu’nun bu yıl kendisine insan beyninin yapabileceği her şeyi yapabilen bir makine olan “yapay genel zekanın” gelişini ve risklerini tahmin etmeye yardımcı olacak araştırma için para teklif ettiğini söyledi. Ancak bu fikir, güvenilir bir şekilde tahmin edilebilecek bir şey değil, dedi Bay Etzioni, çünkü bilim adamları henüz onu nasıl inşa edeceklerini bilmiyorlar.
“Bunlar, son derece spekülatif bir girişime para yatıran akıllı, samimi insanlar” dedi.