achievable
New member
15 Şubat 2021'de bir skandal Ulusal hükümet istifaya zorlandı Hollanda. Birkaç ay önce yapılan bir araştırma, on yılı aşkın süredir, algoritma Hollanda Vergi Dairesi tarafından sosyal yardım dolandırıcılığı vakalarını tespit etmek için kullanılan sistem, 26.000'e kadar kişiyi haksız yere suçlamıştı. Haksız zulüm, 10.000'e yakın ailenin on binlerce avroyu iade etmek zorunda kalmasıyla sonuçlandı; bu da onları işsizliğe, iflasa ve hatta boşanmaya sürükledi. Daha da kötüsü, en az 11.000 vakada bu asılsız suçlama, kurbanların etnik kökenine dayanıyordu. Dönemin Başbakanı Mark Rutte, özründe, “İşlerin yeniden bu kadar ters gitmesine izin veremeyiz” dedi.
Davayı analiz eden parlamento komisyonunun tanımladığı şekliyle bu “temel hakların ihlali”, güncel olduğu kadar temel bir soruyu da gündeme getirdi: Bu durum, toplumu tehdit ediyor mu? yapay zeka (AI) hızlandırılması ve güçlendirilmesi ile eşitsizlik toplumlarımızda zaten mevcut mu? Bu, Barselona'daki CaixaForum Macaya'da düzenlenen tartışmanın anahtarıydı; bu, ortaya çıkan bu ikilinin bir arada yaşamasına odaklanan bir döngünün sonuncusuydu. teknoloji ve demokrasi.
Önyargılı otomasyon
Hollanda'nın teknecilere yönelik uyarısına rağmen, giderek daha fazla ülke (ayrıca ispanya) kamu yardımının verilmesinden mahkumların tekrar suç işleme olasılığının değerlendirilmesine kadar her türlü süreci otomatikleştiren algoritmik modeller benimsemek. Yetkililer oraya gidiyor yapay zeka bu görevleri optimize etme niyetiyle. Ancak ürettiği tepkiler saf ve tartışılmaz değildir; veri eğitim aldığı, toplumumuzun kalıplarını yansıtan veriler, aynı zamanda segolar. “Yapay zeka bir mantar gibi yerden büyümüyor; o bir ötekilik değil, daha ziyade sistemimize ve dünya anlayışımıza bağlı” diye açıklıyor. Nuria VallesYüksek Bilimsel Araştırma Konseyi'nin (CSIC) AI Araştırma Enstitüsü'nde uzman.
Yapay zeka ile bölünmelerle işaretlenmiş bir toplum arasındaki bu ayrılmaz bağlantı, riskleri yoğunlaştıran şeydir. ayrımcılık. Örneğin, makine istatistiksel olarak savunmasız toplulukların daha yüksek suç oranına sahip olduğu sonucuna varırsa, bağlamı hesaba katmadan onları haksız yere suçlama eğiliminde olacaktır. belgelendiği gibi Virginia EubanksAlbany Üniversitesi'nde siyaset bilimi doçenti, kitapta Eşitsizliğin otomasyonubu sistemlerin genişlemesi çoğu şeyin dışlanmasını vurgulamaktadır fakir.
Dahası, bu mantık kurbanlarını da mahkum eder, çünkü geçmiş kalıplara dayalı hayati kararlar almak, insanların değişim ve ilerleme olasılığını, özgür iradeyi inkar eder. “Yalnızca var olana odaklanırsanız yapay zeka geleceği kapatıyor” diye belirtiyor. Ana ValdiviaOxford İnternet Enstitüsü'nde Yapay Zeka, Yönetişim ve Politika alanında araştırmacı ve profesör.
Ücret eşitsizliği
Yapay zekanın toplumsal etkisi, yapay zekâya entegrasyonu olmadan anlaşılamaz. çalışma piyasası. Onlarca yıl önce modadan otomotive kadar çeşitli endüstrilerde kullanılmaya başlanmasından bu yana, bu teknoloji, yeterlik ve üretkenlik ekonomik, eşitlik eksikliğiyle mücadele için iki unsurun gerekli olduğu düşünülüyor. Bu söz şimdi ticari heyecanla tekrarlanıyor. Üretken Yapay Zeka lansmanı ile başladı SohbetGPT Kasım 2022'de ve gibi devlerin başrolde olduğu Microsoft herhangi biri Google.
Ancak saygın akademisyenler durumun böyle olmadığı konusunda uyarıyor. MIT ekonomisti Daron Acemoğlu'nun yaptığı araştırmaya göre büyümenin yüzde 50 ile yüzde 70 arasında olduğu görülüyor. ücret eşitsizliği ABD'de 1980 ile 2016 yılları arasında otomasyona bağlıydı, robotik ve insanlar tarafından gerçekleştirilen görevlerin yerini alan algoritmalar. Son yıllarda ücretlerin üretkenlikten kopup kopmadığı ve bunun teknolojiden mi yoksa adil dağıtım eksikliğinden mi kaynaklandığı konusunda pek çok tartışma yaşandı.
Zengin daha zengin, fakir daha fakir
Diğerleri şunu belirtiyor: sayısallaştırma emek üretime katkıda bulunur zengin daha zengin ol ve fakir, daha da fakir. Stanford Dijital Ekonomi Laboratuvarı yöneticisi ekonomist Erik Brynjolfsson, 2022'de yayınlanan bir makalede yapay zeka kullanımının maliyetleri azaltabileceğine dair güvence verdi. ücretler İnsanların çoğunluğunun “birkaç kişinin piyasa gücünü artırsa bile”, temelde onu kontrol edenler. Vallès, bu süreçten en fazla fayda sağlayanların, en çok acı çekenlerin, “siyasi-teknolojik gündemi tanımlama yeteneğinden en uzak” olanların üzerindeki yükü hafifletecek “tedbirleri almak istemeyeceklerini” belirterek aynı fikirde.
İktisatçı ve Nobel Ödülü sahibi Joseph Stiglitz Yapay zekanın gücünü zayıflatmakla tehdit ettiğini de vurguladı. işçi sınıfı. Uzman, “İşçilerin çok fazla pazarlık gücüne sahip olmadığı bir sistem yarattık. Böyle bir dünyada yapay zeka, işverenin müttefiki olabilir ve işçileri daha da zayıflatabilir, bu da eşitsizliği daha da artırabilir” dedi. eşitsizlik kira.
Valvidia'nın işçilerin görünür kılınması çağrısının nedeni budur. sayısallaştırmaChatGPT moderatörlüğü gibi önemli işler genellikle fakir ülkelere yaptırılıyor.
Daha da ileri gidecek mi?
O Boom Üretken yapay zekanın kullanımı sosyal eşitsizlikleri daha da körükleyebilir. Bu, Uluslararası Para Fonu tarafından belirtilmiştir (IMF), bu da bu artışın göstergesidir. Polarizasyon ile gelir Ve varlık yaşlı işçilere daha çok zarar verir. Danışmanlık firması McKinsey & Company tarafından yakın zamanda yapılan bir analiz, bu teknolojinin Amerika Birleşik Devletleri'ndeki işlerin neredeyse %10'unu otomatikleştirebileceğini ve en çok etkilenenlerin en düşük ücretli işlerin olacağını tahmin ediyor. 2014 yılında pazarladığı ürünlerin tanıtımını yapmadan çok önce OpenAImevcut icra direktörü, Sam Altmanbir blog yazısında “müdahale olmadan teknolojinin sürdürülemez eşitsizliğe yol açmasının muhtemel olduğunu” belirtti.
Valdivia, yapay zekanın daha uygulanmadan önce bile bariz bir toplumsal bölünmeyi kanıtladığının altını çiziyor. “Milyon dolarlık yatırımların duyurulmasına tanık oluyoruz” veri merkezleri Hala bu temel kaynaklara erişemeyen insanlar varken bu çok fazla su ve enerji tüketecek” diye yakınıyor. Bu nedenle her iki uzman da toplumdaki yapısal eşitsizliklerin tek sorun olmadığını ve bu eşitsizliklerin yalnızca yapay zeka ile çözülemeyeceğini vurguluyor. , daha ziyade herkesi hesaba katan gerçek bir siyasi eylem gerektirir: “Böyle karmaşık sorunların basit bir çözümü yoktur.”
Davayı analiz eden parlamento komisyonunun tanımladığı şekliyle bu “temel hakların ihlali”, güncel olduğu kadar temel bir soruyu da gündeme getirdi: Bu durum, toplumu tehdit ediyor mu? yapay zeka (AI) hızlandırılması ve güçlendirilmesi ile eşitsizlik toplumlarımızda zaten mevcut mu? Bu, Barselona'daki CaixaForum Macaya'da düzenlenen tartışmanın anahtarıydı; bu, ortaya çıkan bu ikilinin bir arada yaşamasına odaklanan bir döngünün sonuncusuydu. teknoloji ve demokrasi.
Önyargılı otomasyon
Hollanda'nın teknecilere yönelik uyarısına rağmen, giderek daha fazla ülke (ayrıca ispanya) kamu yardımının verilmesinden mahkumların tekrar suç işleme olasılığının değerlendirilmesine kadar her türlü süreci otomatikleştiren algoritmik modeller benimsemek. Yetkililer oraya gidiyor yapay zeka bu görevleri optimize etme niyetiyle. Ancak ürettiği tepkiler saf ve tartışılmaz değildir; veri eğitim aldığı, toplumumuzun kalıplarını yansıtan veriler, aynı zamanda segolar. “Yapay zeka bir mantar gibi yerden büyümüyor; o bir ötekilik değil, daha ziyade sistemimize ve dünya anlayışımıza bağlı” diye açıklıyor. Nuria VallesYüksek Bilimsel Araştırma Konseyi'nin (CSIC) AI Araştırma Enstitüsü'nde uzman.
Yapay zeka ile bölünmelerle işaretlenmiş bir toplum arasındaki bu ayrılmaz bağlantı, riskleri yoğunlaştıran şeydir. ayrımcılık. Örneğin, makine istatistiksel olarak savunmasız toplulukların daha yüksek suç oranına sahip olduğu sonucuna varırsa, bağlamı hesaba katmadan onları haksız yere suçlama eğiliminde olacaktır. belgelendiği gibi Virginia EubanksAlbany Üniversitesi'nde siyaset bilimi doçenti, kitapta Eşitsizliğin otomasyonubu sistemlerin genişlemesi çoğu şeyin dışlanmasını vurgulamaktadır fakir.
Dahası, bu mantık kurbanlarını da mahkum eder, çünkü geçmiş kalıplara dayalı hayati kararlar almak, insanların değişim ve ilerleme olasılığını, özgür iradeyi inkar eder. “Yalnızca var olana odaklanırsanız yapay zeka geleceği kapatıyor” diye belirtiyor. Ana ValdiviaOxford İnternet Enstitüsü'nde Yapay Zeka, Yönetişim ve Politika alanında araştırmacı ve profesör.
Ücret eşitsizliği
Yapay zekanın toplumsal etkisi, yapay zekâya entegrasyonu olmadan anlaşılamaz. çalışma piyasası. Onlarca yıl önce modadan otomotive kadar çeşitli endüstrilerde kullanılmaya başlanmasından bu yana, bu teknoloji, yeterlik ve üretkenlik ekonomik, eşitlik eksikliğiyle mücadele için iki unsurun gerekli olduğu düşünülüyor. Bu söz şimdi ticari heyecanla tekrarlanıyor. Üretken Yapay Zeka lansmanı ile başladı SohbetGPT Kasım 2022'de ve gibi devlerin başrolde olduğu Microsoft herhangi biri Google.
Ancak saygın akademisyenler durumun böyle olmadığı konusunda uyarıyor. MIT ekonomisti Daron Acemoğlu'nun yaptığı araştırmaya göre büyümenin yüzde 50 ile yüzde 70 arasında olduğu görülüyor. ücret eşitsizliği ABD'de 1980 ile 2016 yılları arasında otomasyona bağlıydı, robotik ve insanlar tarafından gerçekleştirilen görevlerin yerini alan algoritmalar. Son yıllarda ücretlerin üretkenlikten kopup kopmadığı ve bunun teknolojiden mi yoksa adil dağıtım eksikliğinden mi kaynaklandığı konusunda pek çok tartışma yaşandı.
Zengin daha zengin, fakir daha fakir
Diğerleri şunu belirtiyor: sayısallaştırma emek üretime katkıda bulunur zengin daha zengin ol ve fakir, daha da fakir. Stanford Dijital Ekonomi Laboratuvarı yöneticisi ekonomist Erik Brynjolfsson, 2022'de yayınlanan bir makalede yapay zeka kullanımının maliyetleri azaltabileceğine dair güvence verdi. ücretler İnsanların çoğunluğunun “birkaç kişinin piyasa gücünü artırsa bile”, temelde onu kontrol edenler. Vallès, bu süreçten en fazla fayda sağlayanların, en çok acı çekenlerin, “siyasi-teknolojik gündemi tanımlama yeteneğinden en uzak” olanların üzerindeki yükü hafifletecek “tedbirleri almak istemeyeceklerini” belirterek aynı fikirde.
İktisatçı ve Nobel Ödülü sahibi Joseph Stiglitz Yapay zekanın gücünü zayıflatmakla tehdit ettiğini de vurguladı. işçi sınıfı. Uzman, “İşçilerin çok fazla pazarlık gücüne sahip olmadığı bir sistem yarattık. Böyle bir dünyada yapay zeka, işverenin müttefiki olabilir ve işçileri daha da zayıflatabilir, bu da eşitsizliği daha da artırabilir” dedi. eşitsizlik kira.
Valvidia'nın işçilerin görünür kılınması çağrısının nedeni budur. sayısallaştırmaChatGPT moderatörlüğü gibi önemli işler genellikle fakir ülkelere yaptırılıyor.
Daha da ileri gidecek mi?
O Boom Üretken yapay zekanın kullanımı sosyal eşitsizlikleri daha da körükleyebilir. Bu, Uluslararası Para Fonu tarafından belirtilmiştir (IMF), bu da bu artışın göstergesidir. Polarizasyon ile gelir Ve varlık yaşlı işçilere daha çok zarar verir. Danışmanlık firması McKinsey & Company tarafından yakın zamanda yapılan bir analiz, bu teknolojinin Amerika Birleşik Devletleri'ndeki işlerin neredeyse %10'unu otomatikleştirebileceğini ve en çok etkilenenlerin en düşük ücretli işlerin olacağını tahmin ediyor. 2014 yılında pazarladığı ürünlerin tanıtımını yapmadan çok önce OpenAImevcut icra direktörü, Sam Altmanbir blog yazısında “müdahale olmadan teknolojinin sürdürülemez eşitsizliğe yol açmasının muhtemel olduğunu” belirtti.
Valdivia, yapay zekanın daha uygulanmadan önce bile bariz bir toplumsal bölünmeyi kanıtladığının altını çiziyor. “Milyon dolarlık yatırımların duyurulmasına tanık oluyoruz” veri merkezleri Hala bu temel kaynaklara erişemeyen insanlar varken bu çok fazla su ve enerji tüketecek” diye yakınıyor. Bu nedenle her iki uzman da toplumdaki yapısal eşitsizliklerin tek sorun olmadığını ve bu eşitsizliklerin yalnızca yapay zeka ile çözülemeyeceğini vurguluyor. , daha ziyade herkesi hesaba katan gerçek bir siyasi eylem gerektirir: “Böyle karmaşık sorunların basit bir çözümü yoktur.”