Serveur d'impression

Un paiement AI? Les entreprises devraient-elles rémunérer la société pour les emplois perdus? – Serveur d’impression

Le 9 février 2020 - 7 minutes de lecture

Quelque chose que la vraie IA fait réellement pour la médecine
Tiernan Rays dit qu'il y a beaucoup trop de battage médiatique sur l'IA en médecine, mais la startup Lantern Pharma trouve une utilisation pratique et ciblée pour les réseaux de neurones dans le développement de médicaments contre le cancer. En savoir plus: https://zd.net/2N1SvYR

Si l'intelligence artificielle supprime finalement certains emplois pour les humains, les parties qui profitent de l'IA devraient-elles verser de l'argent à la société pour compenser la perte?

C'est la question intrigante soulevée par un article publié le mois dernier par le Future of Humanity Institute, le groupe de réflexion de l'Université d'Oxford qui est largement cité dans la presse populaire concernant l'IA, et qui est dirigé par le philosophe Nick Bostrom.

Le Centre de l'Institut pour la gouvernance de l'IA a publié «La clause de la Windfall: distribuer les avantages de l'IA pour le bien commun», la publiant sur le serveur de préimpression arXiv. Le document, rédigé par Cullen O'Keefe, Peter Cihon, Ben Garfinkel, Jade Leung et Allan Dafoe, propose que les entreprises qui génèrent des bénéfices excédentaires imputables à AI paient une partie de l'argent au-delà des impôts qu'elles devraient normalement payer.

ZDNet a contacté l'auteur principal Cullen O'Keefe, qui est également candidat à Juris Doctor à la Harvard Law School, pour lui demander de poser des questions complémentaires. O'Keefe a refusé, écrivant dans un e-mail à ZDNet que l'Institut "avait décidé de ne pas faire de publicité sur ce document particulier". Malgré cela, ZDNet propose quelques questions à approfondir ci-dessous.

Les auteurs écrivent que "le potentiel transformateur de l'IA est devenu de plus en plus saillant comme une question d'intérêt public et politique", mais ils soutiennent qu'il y a eu peu de propositions qui feraient des obligations institutionnelles une question de droit.

La clause d'aubaine, comme on l'appelle, serait un engagement pris des années avant que les bénéfices ne se matérialisent, appelé accord ex ante. Les entreprises accepteraient de verser un certain pourcentage, même si elles ne savent pas avec certitude si elles réaliseront jamais un excédent de profit attribuable à l'IA.

Aussi: Le diable dans les détails du débat historique sur l'IA

Le but est d'atténuer les effets délétères de l'IA. Parce que même si l'IA peut augmenter la richesse globale de la société, "beaucoup ont fait valoir que l'IA pourrait entraîner une baisse substantielle des salaires, des déplacements d'emplois et même l'élimination à grande échelle des opportunités d'emploi alors que la structure de l'économie modifie la productivité", écrivent les auteurs. .

Il existe un "fort consensus", écrivent-ils, parmi les chercheurs en IA, "que la plupart, sinon la totalité, du travail humain peut, en théorie, être automatisé". Ils ont même fixé un calendrier approximatif à ce sujet: 2060 est l'année où les chercheurs en IA projetent que l'IA serait capable de surpasser les humains dans toutes les tâches économiquement pertinentes, citant un article séparé publié par l'Institut et par les universitaires d'UC Berkeley en 2018.

La proposition suggère une échelle mobile des obligations. Selon le montant de l'excédent de profit par rapport au «produit mondial brut», le pourcentage du bénéfice qu'une entité verserait passerait de zéro à cinquante pour cent de l'excédent de profit. "À titre d'illustration simplifiée, les auteurs font l'hypothèse d'une entreprise qui réalise 5 000 milliards de dollars de bénéfices excédentaires en 2060, en utilisant les dollars de 2010. En supposant un produit mondial brut en 2060 de 268 000 milliards de dollars, la société serait tenue par la" Fonction Windfall "de payer 488,12 milliards de dollars .

windfall-clause-2019.png

Institut de l'avenir de l'humanité

L'attrait d'une entreprise devrait être qu'un engagement comme celui-ci est quelque chose de transparent et qui peut être planifié pour réduire les risques. Par exemple, O'Keefe et ses collègues émettent l'hypothèse qu'une entreprise réduirait cet avenir de 488 milliards de dollars du coût moyen du capital de 10% pour une entreprise Internet. Et ils pourraient ensuite actualiser davantage en raison de la probabilité relativement faible de réaliser réellement un tel profit excédentaire (car les bénéfices exceptionnels des décennies à venir sont une probabilité, pas une certitude).

Après actualisation, le coût actuel pour une entreprise de cette future facture de 488 milliards de dollars serait de 649 millions de dollars par an, ce qui est conforme aux dons philanthropiques de nombreuses grandes entreprises. Il est important de convaincre les conseils d'administration que la clause répondrait à diverses exigences de la réglementation des entreprises et de la jurisprudence dans le monde. Cela peut être considéré comme analogue aux stock-options, soulignent-ils. Une analogie utile peut être établie entre la Clause d'aubaine et la compensation des options d'achat d'actions, ce qui est incontestablement admissible.

"Tout comme la clause Windfall, les paiements d'options d'achat d'actions ont une valeur attendue actuelle potentiellement faible mais peuvent avoir une valeur beaucoup plus élevée une fois exercée."

Les auteurs reconnaissent que beaucoup de choses devraient être réfléchies et ils proposent leur travail dans l'esprit de susciter une discussion. Ils répondent à quelques questions dans le document. L'une est pourquoi cela serait préférable à l'imposition des bénéfices excédentaires. Ce n'est pas nécessairement, écrivent-ils, sauf que cela pourrait être plus «actionnable», écrivent-ils, car «cela ne dépend que de convaincre les entreprises individuelles, pas des majorités politiques».

Une question qui n'est pas abordée par le document est de savoir si cela crée un moyen pour les entreprises de se sortir des grands problèmes éthiques. En d'autres termes, le versement de bénéfices serait-il un moyen pour les entreprises et la société de cesser de réfléchir de manière critique à l'impact de l'IA sur l'emploi? Et serait-ce un moyen d'éviter la réglementation? Cela ne semble pas être l'intention des auteurs, mais il convient de le garder à l'esprit en tant que problème potentiel, tout comme toute tentative d'entreprise pour résoudre les problèmes éthiques sur le marché.

Une autre question, plus intrigante sur le plan intellectuel, est de savoir si toute la question des récompenses et des coûts futurs actualisés peut être ludifiée par les entreprises qui réaliseront elles-mêmes les bénéfices, ou peuvent les gagner. En théorie, une entreprise comme DeepMind, une unité de Google, pourrait simuler de futures récompenses comme s'il s'agissait d'un problème d'apprentissage par renforcement comme celui d'AlphaZero. En construisant une fonction de valeur des récompenses futures, une telle entité pourrait évaluer les choix état-action du temps présent et probablement optimiser les actions présentes pour maximiser les récompenses futures.

Cela soulève la question de savoir à quoi ressemble une telle fonction objective dans un jeu de profits IA. Une tenue comme DeepMind commence-t-elle à devenir délicate et à poursuivre des initiatives qui ont des avantages «doux» sans amplifier le bénéfice déclaré, afin de minimiser les coûts futurs en vertu de la clause d'aubaine?

De telles questions pour le moment sont assez éloignées, étant donné que l'année dernière, DeepMind est loin de générer des bénéfices pour Google. Mais c'est parmi les nombreuses questions intrigantes soulevées par une recherche très intrigante.

Commentaires

Laisser un commentaire

Votre commentaire sera révisé par les administrateurs si besoin.