El golpe de suerte de la Cláusula: la Distribución de los Beneficios de la IA para el Bien Común – el Futuro de la Humanidad Instituto

en el largo plazo y de la mayoría de las perspectivas, la tecnología ha mejorado la condición humana. Sin embargo, el progreso económico de la innovación tecnológica no ha llegado de manera equitativa o sin problemas. Mientras que la innovación a menudo se produce una gran riqueza, también ha sido a menudo profundamente y gravemente perjudicial para el trabajo, la sociedad y el orden mundial. A la luz de los continuos avances en inteligencia artificial (“AI”), es imperativo que debemos prepararnos para la posibilidad de interrupción extrema, y actuar para mitigar sus impactos negativos. Este informe presenta una nueva política de palanca para esta discusión: el golpe de suerte de la Cláusula.

¿Qué es el golpe de suerte de la Cláusula? El golpe de suerte de la Cláusula es un compromiso previo por AI a las empresas a donar una cantidad significativa de cualquier eventual extremadamente grandes ganancias. Por “extremadamente grandes ganancias,” o “bonanza”, nos referimos a los beneficios que una empresa no podría ganar sin lograr fundamental, económicamente transformador avances en IA capacidades. Es poco probable, pero no inverosímil, que tal un golpe de suerte podría ocurrir; como tal, el golpe de suerte Cláusula está diseñada para tratar un conjunto de poca probabilidad de escenarios de futuro que, si llegan a pasar, sería sin precedentes, perturbador. Por “ex ante“, queremos decir que lo que buscamos es la Cláusula en efecto, antes de que cualquier individuo de IA firma tiene una seria posibilidad de ganar tan extremadamente grandes ganancias. “Donar” que significa, más o menos, que la donó parte de las ganancias inesperadas será utilizado para beneficio de la humanidad en general.

Motivaciones: Debidamente promulgada, la Bonanza, la Cláusula podría abordar varios problemas con AI-impulsado el crecimiento económico. La distribución de los beneficios podría compensar a aquellos prestados de forma impecable desempleados debido a los avances en la tecnología, la mitigación de los posibles aumentos en la desigualdad, y suavizar la transición económica para los más vulnerables. Proporciona IA labs creíbles y tangibles mecanismo para demostrar su compromiso de continuar la IA avanzada para el bien global. Por último, se ofrece una sugerencia concreta que puede estimular otras propuestas y la discusión acerca de cómo la mejor manera de mitigar AI impulsado por la interrupción.

Limitaciones: quedan importantes cuestiones por resolver sobre el contenido exacto de una eventual ganancia Inesperada de la Cláusula, y la forma en que se implementaría. Tenemos la intención de este informe para iniciar un debate productivo, y se recomienda que estas incertidumbres ser explorado a través de público y de expertos de la deliberación. Críticamente, el golpe de suerte de la Cláusula es sólo una de las muchas posibles soluciones para el problema de la concentración de beneficios extraordinarios en una época definida por el AI-impulsado por el crecimiento y la interrupción. En la publicación de este informe, nuestra esperanza no sólo para fomentar la crítica constructiva de esta solución en particular, pero lo que es más importante para inspirar la mente abierta discusión sobre el conjunto completo de soluciones en este sentido. En particular, mientras que una fuerza potencial de la Bonanza de la Cláusula es que inicialmente no requiere de la intervención gubernamental, la reconocemos y estamos bien de apoyo de público soluciones.

Siguiente pasos: esperamos contribuir un ambicioso y novedoso propuesta de política de la ya rica discusión sobre este tema. Más importante que la política en sí, sin embargo, esperamos continuamente contribuir a un diálogo más amplio sobre la economía promesas y desafíos de la IA, y cómo asegurarse de AI beneficia a la humanidad como un todo. Durante los próximos meses, vamos a estar trabajando con la Asociación de colaboración sobre la IA y OpenAI para empujar esas conversaciones hacia adelante.

Leer el informe completo aquí. El informe también resume en este artículo publicado en la AAAI / ACM / AI Ética & Conferencia de la Sociedad en 2020.