Yapay zeka yazılımı, insan kaynakları departmanları tarafından özgeçmişleri taramak, video görüşmeleri yapmak ve iş arayanların zihinsel çevikliğini değerlendirmek için giderek daha fazla kullanılmaktadır.
Şimdi, Amerika’daki en büyük şirketlerden bazıları, bu teknolojinin geçmişteki ayrımcılığı sürdürebilecek veya hatta daha da kötüleştirebilecek önyargılı sonuçlar vermesini önlemek için bir çabaya katılıyor.
Çarşamba günü duyurulan Data & Trust Alliance, CVS Health, Deloitte, General Motors, Humana, IBM, Mastercard, Meta (Facebook’un ana şirketi), Nike ve Walmart dahil olmak üzere çeşitli sektörlerde büyük işverenlerle anlaşma sağladı.
Şirketler grubu bir lobi kuruluşu veya düşünce kuruluşu değildir. Bunun yerine yapay zeka yazılımları için bir değerlendirme ve puanlama sistemi geliştirmiştir.
Kurumsal ve dış uzmanlardan yararlanan Data & Trust Alliance, 13 konuyu kapsayan 55 soruluk bir değerlendirme ve bir puanlama sistemi tasarladı. Amaç, algoritmik önyargıyı tespit etmek ve bunlarla mücadele etmektir.
Grubun eş başkanı ve American Express’in önyargı önleme araç setini benimsemeyi kabul eden eski CEO’su Kenneth Chenault, “Bu sadece ilkeleri benimsemek değil, aslında somut bir şeyi uygulamaktır” dedi.
Şirketler, yapay zeka programlarının istemeden yanlı sonuçlar üretebileceğine dair çok sayıda araştırmayla desteklenen endişelere yanıt veriyor. Veri, modern AI yazılımının yakıtıdır, bu nedenle seçilen veriler ve çıkarımlar yapmak için nasıl kullanıldığı çok önemlidir.
Bir algoritmayı eğitmek için kullanılan veriler büyük ölçüde beyaz erkekler hakkında bilgi içeriyorsa, sonuçlar büyük olasılıkla azınlıklara veya kadınlara karşı önyargılı olacaktır. Veya bir şirketteki başarıyı tahmin etmek için kullanılan veriler, şirkette geçmişte kimin iyi performans gösterdiğine dayanıyorsa, sonuç, geçmiş önyargının algoritmik olarak güçlendirilmiş bir versiyonu olabilir.
Görünüşte tarafsız olan veri kümeleri, başkalarıyla birleştirildiğinde, ırk, cinsiyet veya yaşa göre ayrım yapan sonuçlar üretebilir. Örneğin grubun anketi, cep telefonu türü, spor bağlantıları ve sosyal kulüp üyelikleri dahil olmak üzere bu tür “vekil” verilerin kullanımını soruyor.
Dünyanın dört bir yanındaki hükümetler, kural ve düzenlemeleri benimsemek için harekete geçiyor. Avrupa Birliği, A.I. için düzenleyici bir çerçeve önerdi. Beyaz Saray, A.I. için bir “haklar bildirgesi” üzerinde çalışıyor.
Federal Ticaret Komisyonu, teknolojinin kullanımıyla ilgili şirketlere verdiği bir tavsiye notunda, “Kendinizi sorumlu tutun ya da F.T.C.’nin sizin için yapmasına hazır olun. ”
Veri ve Güven İttifakı, Silikon Vadisi’nin mahremiyet ve yanlış bilgilendirme gibi konularda yaptığı gibi, yaygın zararlar ortaya çıktıktan sonra tepki vermek yerine, iş gücü kararlarında kullanılan güçlü algoritmaların potansiyel tehlikesini erken ele almaya çalışır.
2020 yılına kadar iki yıl boyunca Facebook yönetim kurulunda olan Bay Chenault, “Hızlı hareket et ve bir şeyleri kır ve sonra çöz” çağını geçmemiz gerekiyor” dedi.
Corporate America, daha çeşitli bir iş gücü için programları zorluyor. Şu anda risk sermayesi şirketi General Catalyst’in başkanı olan Bay Chenault, iş dünyasının en önde gelen Afrikalı Amerikalılarından biridir.
Yapay zeka ürünleri için bir sertifika sistemi geliştiren kar amacı gütmeyen bir kuruluş olan Sorumlu Yapay Zeka Enstitüsü’nün yönetici direktörü Ashley Casovan, yeni girişimden bahsederken, odaklanmış yaklaşımın ve büyük şirket taahhütlerinin cesaret verici olduğunu söyledi.
Ekonomik İşbirliği ve Kalkınma Örgütü’ne yapay zeka konularında danışmanlık yapan Bayan Casovan, “Ancak şirketlerin bunu kendi başlarına yapmaları sorunlu” dedi. “Bunun nihayetinde bağımsız bir otorite tarafından yapılması gerektiğini düşünüyoruz. ”
Şirketler grubu, şirketlerinin neredeyse her endüstride “veri ve yapay zeka şirketleri haline geldiğini” kabul eden iş liderleri arasındaki konuşmalardan doğdu, dedi Bay Chenault. Bu da yeni fırsatlar, aynı zamanda yeni riskler anlamına geliyordu.
Grup, 2020’den başlayarak, ittifakın eş başkanı ve IBM’in eski CEO’su Bay Chenault ve Samuel Palmisano tarafından bir araya getirildi ve esas olarak büyük şirketlerdeki üst düzey yöneticilere çağrıda bulundu.
İş gücü kararlarını işe alma, terfi, eğitim ve ücretlendirme konularında desteklemek için teknolojinin kullanımına odaklanmaya karar verdiler. Projeyi yürütmek için şirketlerindeki kıdemli çalışanlar görevlendirildi.
Dahili anketler, şirketlerinin insan kaynaklarında A. I. güdümlü yazılımları benimsediğini, ancak teknolojinin çoğunun tedarikçilerden geldiğini gösterdi. Ve kurumsal kullanıcılar, yazılım üreticilerinin algoritmik modellerinde hangi verileri kullandığı veya bu modellerin nasıl çalıştığı hakkında çok az bilgiye sahipti.
Bir çözüm geliştirmek için şirket grubu, insan kaynakları, veri analizi, hukuk ve satın alma konularında kendi çalışanlarını ve aynı zamanda yazılım satıcıları ve dış uzmanları da dahil etti. Sonuç, veri uygulamalarını ve insan kaynakları yazılımının tasarımını incelemek için bir önyargı algılama, ölçüm ve azaltma sistemidir.
Nuala O’Connor, Walmart’ta dijital vatandaşlıktan sorumlu kıdemli başkan yardımcısı. Kredi. . . Çip Somodevilla/Getty Images
Walmart’ta dijital vatandaşlıktan sorumlu kıdemli başkan yardımcısı Nuala O’Connor, “Her algoritmanın içinde gömülü insani değerler vardır ve bu bize buna başka bir mercekle bakmamızı sağlar” dedi. “Bu pratik ve işlevsel. ”
Değerlendirme programı geçen yıl içinde geliştirildi ve iyileştirildi. Amaç, bunu yalnızca Workday, Oracle ve SAP gibi büyük insan kaynakları yazılımı üreticilerine değil, aynı zamanda hızla büyüyen “iş teknolojisi” alanında ortaya çıkan küçük şirketlere de uygulamaktı. ”
Önyargı karşıtı anketteki soruların çoğu, yapay zeka modellerinin ham maddesi olan verilere odaklanır.
Bay Chenault, “Bunu sorumlu bir şekilde yapmazsak, bu yeni veri ve yapay zeka çağının vaadi kaybolacak” dedi.
Şimdi, Amerika’daki en büyük şirketlerden bazıları, bu teknolojinin geçmişteki ayrımcılığı sürdürebilecek veya hatta daha da kötüleştirebilecek önyargılı sonuçlar vermesini önlemek için bir çabaya katılıyor.
Çarşamba günü duyurulan Data & Trust Alliance, CVS Health, Deloitte, General Motors, Humana, IBM, Mastercard, Meta (Facebook’un ana şirketi), Nike ve Walmart dahil olmak üzere çeşitli sektörlerde büyük işverenlerle anlaşma sağladı.
Şirketler grubu bir lobi kuruluşu veya düşünce kuruluşu değildir. Bunun yerine yapay zeka yazılımları için bir değerlendirme ve puanlama sistemi geliştirmiştir.
Kurumsal ve dış uzmanlardan yararlanan Data & Trust Alliance, 13 konuyu kapsayan 55 soruluk bir değerlendirme ve bir puanlama sistemi tasarladı. Amaç, algoritmik önyargıyı tespit etmek ve bunlarla mücadele etmektir.
Grubun eş başkanı ve American Express’in önyargı önleme araç setini benimsemeyi kabul eden eski CEO’su Kenneth Chenault, “Bu sadece ilkeleri benimsemek değil, aslında somut bir şeyi uygulamaktır” dedi.
Şirketler, yapay zeka programlarının istemeden yanlı sonuçlar üretebileceğine dair çok sayıda araştırmayla desteklenen endişelere yanıt veriyor. Veri, modern AI yazılımının yakıtıdır, bu nedenle seçilen veriler ve çıkarımlar yapmak için nasıl kullanıldığı çok önemlidir.
Bir algoritmayı eğitmek için kullanılan veriler büyük ölçüde beyaz erkekler hakkında bilgi içeriyorsa, sonuçlar büyük olasılıkla azınlıklara veya kadınlara karşı önyargılı olacaktır. Veya bir şirketteki başarıyı tahmin etmek için kullanılan veriler, şirkette geçmişte kimin iyi performans gösterdiğine dayanıyorsa, sonuç, geçmiş önyargının algoritmik olarak güçlendirilmiş bir versiyonu olabilir.
Görünüşte tarafsız olan veri kümeleri, başkalarıyla birleştirildiğinde, ırk, cinsiyet veya yaşa göre ayrım yapan sonuçlar üretebilir. Örneğin grubun anketi, cep telefonu türü, spor bağlantıları ve sosyal kulüp üyelikleri dahil olmak üzere bu tür “vekil” verilerin kullanımını soruyor.
Dünyanın dört bir yanındaki hükümetler, kural ve düzenlemeleri benimsemek için harekete geçiyor. Avrupa Birliği, A.I. için düzenleyici bir çerçeve önerdi. Beyaz Saray, A.I. için bir “haklar bildirgesi” üzerinde çalışıyor.
Federal Ticaret Komisyonu, teknolojinin kullanımıyla ilgili şirketlere verdiği bir tavsiye notunda, “Kendinizi sorumlu tutun ya da F.T.C.’nin sizin için yapmasına hazır olun. ”
Veri ve Güven İttifakı, Silikon Vadisi’nin mahremiyet ve yanlış bilgilendirme gibi konularda yaptığı gibi, yaygın zararlar ortaya çıktıktan sonra tepki vermek yerine, iş gücü kararlarında kullanılan güçlü algoritmaların potansiyel tehlikesini erken ele almaya çalışır.
2020 yılına kadar iki yıl boyunca Facebook yönetim kurulunda olan Bay Chenault, “Hızlı hareket et ve bir şeyleri kır ve sonra çöz” çağını geçmemiz gerekiyor” dedi.
Corporate America, daha çeşitli bir iş gücü için programları zorluyor. Şu anda risk sermayesi şirketi General Catalyst’in başkanı olan Bay Chenault, iş dünyasının en önde gelen Afrikalı Amerikalılarından biridir.
Yapay zeka ürünleri için bir sertifika sistemi geliştiren kar amacı gütmeyen bir kuruluş olan Sorumlu Yapay Zeka Enstitüsü’nün yönetici direktörü Ashley Casovan, yeni girişimden bahsederken, odaklanmış yaklaşımın ve büyük şirket taahhütlerinin cesaret verici olduğunu söyledi.
Ekonomik İşbirliği ve Kalkınma Örgütü’ne yapay zeka konularında danışmanlık yapan Bayan Casovan, “Ancak şirketlerin bunu kendi başlarına yapmaları sorunlu” dedi. “Bunun nihayetinde bağımsız bir otorite tarafından yapılması gerektiğini düşünüyoruz. ”
Şirketler grubu, şirketlerinin neredeyse her endüstride “veri ve yapay zeka şirketleri haline geldiğini” kabul eden iş liderleri arasındaki konuşmalardan doğdu, dedi Bay Chenault. Bu da yeni fırsatlar, aynı zamanda yeni riskler anlamına geliyordu.
Grup, 2020’den başlayarak, ittifakın eş başkanı ve IBM’in eski CEO’su Bay Chenault ve Samuel Palmisano tarafından bir araya getirildi ve esas olarak büyük şirketlerdeki üst düzey yöneticilere çağrıda bulundu.
İş gücü kararlarını işe alma, terfi, eğitim ve ücretlendirme konularında desteklemek için teknolojinin kullanımına odaklanmaya karar verdiler. Projeyi yürütmek için şirketlerindeki kıdemli çalışanlar görevlendirildi.
Dahili anketler, şirketlerinin insan kaynaklarında A. I. güdümlü yazılımları benimsediğini, ancak teknolojinin çoğunun tedarikçilerden geldiğini gösterdi. Ve kurumsal kullanıcılar, yazılım üreticilerinin algoritmik modellerinde hangi verileri kullandığı veya bu modellerin nasıl çalıştığı hakkında çok az bilgiye sahipti.
Bir çözüm geliştirmek için şirket grubu, insan kaynakları, veri analizi, hukuk ve satın alma konularında kendi çalışanlarını ve aynı zamanda yazılım satıcıları ve dış uzmanları da dahil etti. Sonuç, veri uygulamalarını ve insan kaynakları yazılımının tasarımını incelemek için bir önyargı algılama, ölçüm ve azaltma sistemidir.
Nuala O’Connor, Walmart’ta dijital vatandaşlıktan sorumlu kıdemli başkan yardımcısı. Kredi. . . Çip Somodevilla/Getty Images
Walmart’ta dijital vatandaşlıktan sorumlu kıdemli başkan yardımcısı Nuala O’Connor, “Her algoritmanın içinde gömülü insani değerler vardır ve bu bize buna başka bir mercekle bakmamızı sağlar” dedi. “Bu pratik ve işlevsel. ”
Değerlendirme programı geçen yıl içinde geliştirildi ve iyileştirildi. Amaç, bunu yalnızca Workday, Oracle ve SAP gibi büyük insan kaynakları yazılımı üreticilerine değil, aynı zamanda hızla büyüyen “iş teknolojisi” alanında ortaya çıkan küçük şirketlere de uygulamaktı. ”
Önyargı karşıtı anketteki soruların çoğu, yapay zeka modellerinin ham maddesi olan verilere odaklanır.
Bay Chenault, “Bunu sorumlu bir şekilde yapmazsak, bu yeni veri ve yapay zeka çağının vaadi kaybolacak” dedi.