AI, la ley, y nuestro futuro | Noticias del MIT

los Científicos y los políticos se reunieron en el MIT en el martes para discutir uno de los problemas más difíciles en la inteligencia artificial: Cómo gobernar.

La primera inteligencia artificial del MIT Política del Congreso contó con siete paneles de discusión extendiéndose a través de una variedad de aplicaciones de la AI, y 25 ponentes — entre ellos dos ex de la Casa Blanca jefes de personal, los ex secretarios de gabinete, seguridad nacional y defensa de la política de los jefes, de la industria y líderes de la sociedad civil, y los principales investigadores.

Su enfoque compartido: ¿cómo aprovechar las oportunidades que AI es la creación — a través de áreas, incluyendo el transporte y la seguridad, la medicina, el trabajo, la justicia penal y la seguridad nacional—, mientras vigorosamente enfrentar los desafíos, incluyendo el potencial de sesgo social, la necesidad de transparencia, y misteps que podría convertirse en IA innovación y exacerbando los problemas sociales en los Estados unidos y alrededor del mundo.

“Cuando se trata de la IA en las áreas de la confianza del público, la era de movimiento rápido y romper todo”, dijo R. David Edelman, director del Proyecto en la Tecnología, la Economía y la Seguridad Nacional (DECENAS) en el MIT Internet de la Política de Investigación de la Iniciativa (IPRI), y un ex asistente especial del presidente para la económica y la política de la tecnología en los Obama en la Casa Blanca.

Agregó Edelman: “simplemente Hay demasiado en juego para todos nosotros, no para decir.”

Daniel Weitzner, director fundador del IPRI y un director científico de investigación en el MIT de Ciencias de la computación y el Laboratorio de Inteligencia Artificial (CSAIL), dijo que un objetivo clave del diálogo fue para ayudar a los analistas de la política se sienta seguro acerca de su capacidad para modelar de forma activa los efectos de la IA en la sociedad.

“espero que los políticos salgan con un sentido claro de que la tecnología de la IA no es un objeto fijo, sino que el derecho de la interacción entre ciencias de la computación, el gobierno y la sociedad en general ayudará a darle forma al desarrollo de nueva tecnología para atender las necesidades de la sociedad,” Weitzner, dijo en el cierre del evento.

La inteligencia artificial del MIT Política del Congreso fue organizado por el IPRI, junto a dos días de la reunión de la Organización para la Cooperación y el Desarrollo Económico (OCDE), la sede en París intergubernamental de la asociación, que es el desarrollo de AI recomendaciones de política para 35 países de todo el mundo. Como parte del evento, los expertos de la OCDE tomó parte en una de medio día, las manos-en la sesión de entrenamiento en el aprendizaje de máquina, como parte de su entrenamiento y prueba de una red neuronal bajo la dirección de Hal Abelson, la Clase de 1922 Profesor de Ciencias de la computación y la Ingeniería en el MIT.

el foro del martes también comenzó con una introducción sobre el estado del arte en la IA de Antonio Torralba, profesor en CSAIL y el Departamento de Ingeniería Eléctrica y Ciencias de la computación (EECS), y director del MIT Búsqueda de la Inteligencia. Señaló que “hay muchas cosas que pasan” en el AI, Torralba, bromeó: “Es muy difícil saber lo que el futuro es, pero es aún más difícil saber lo que es el presente.”

Un nuevo “compromiso para abordar las cuestiones éticas”

martes del evento, co-organizado por el IPRI y el MIT Búsqueda de la Inteligencia, se celebró en un momento de la IA está recibiendo una cantidad importante de la atención de los medios — y un nivel sin precedentes de la inversión financiera y el apoyo institucional.

Por su parte, el MIT anunció en octubre de 2018, que fue fundador del MIT Stephen A. Schwarzman la Universidad de la Informática, apoyados por los $350 millones de regalo de Stephen Schwarzman, el cual servirá como una interdisciplinario de nexo entre la investigación y la educación en ciencias de la computación, ciencia de datos, AI, y campos relacionados. La universidad se ocupará también de la política y las cuestiones éticas relacionadas con la informática.

“Aquí en el MIT, estamos en un momento único con el inminente lanzamiento de la nueva MIT Schwarzman la Universidad de la Informática,” Weitzner, señaló. “El compromiso de la dirección política y temas de ética en la informática se traducirá en una nueva IA de investigación y el plan de estudios para formar a los estudiantes para desarrollar nueva tecnología para satisfacer las necesidades de la sociedad.”

Otras instituciones están haciendo una extensión del compromiso a la IA así — como la OCDE.

“las Cosas están evolucionando muy rápidamente”, dijo Andrew Wyckoff, director de ciencia, tecnología e innovación, en la OCDE. “Tenemos que empezar a tratar de salir adelante de eso.”

Wyckoff añadió que AI fue un “top tres” prioridad política para la OCDE en 2019-2020, y dijo que la organización estaba formando un “observatorio” para producir evaluaciones realistas de la IA del impacto, incluida la cuestión de la automatización de la sustitución de puestos de trabajo.

“Hay un montón de miedo que hay sobre [a los trabajadores] de ser desplazados”, dijo Wyckoff. “Tenemos que mirar esto y ver lo que es la realidad, frente a lo que es el miedo.”

Una buena cantidad de esa idea surge más de miedo que de realidad, dijo Erik Brynjolfsson, director del MIT Iniciativa en la Economía Digital y profesor en el MIT Sloan School of Management, durante un panel de discusión sobre el proceso de fabricación y mano de obra.

en Comparación con la gama de competencias necesarias en la mayoría de los trabajos, “el día de Hoy lo que el aprendizaje de máquina puede hacer es mucho más estrecho,” Brynjolfsson, dijo. “Creo que va a ser el status quo para un número de años.”

Brynjolfsson señaló que su propia investigación sobre el tema, la evaluación de la completa gama de tareas específicas que se utilizan en una amplia variedad de puestos de trabajo, muestra que la automatización tiende a reemplazar a algunos, pero no todos los de las tareas.

“En ni una sola de esas ocupaciones hizo de aprendizaje de la máquina de ejecución de la tabla de tareas, Brynjolfsson, dijo. “Usted no sólo va a ser capaz de conectar en una máquina muy a menudo.” Sin embargo, señaló, el hecho de que las computadoras pueden usurpar ciertas tareas significa que “reinventar y rediseñar” será necesario para muchos puestos de trabajo. Aún así, como Brynjolfsson destacó, “Que proceso se va a jugar a lo largo de años, si no décadas.”

Un variado paisaje de las políticas

Uno de los principales idea subrayada en el evento de que la IA formulación de políticas, que podría desarrollarse de una forma bastante diferente de la industria a industria. Para vehículos autónomos — tal vez la más ampliamente promocionada aplicación de la IA — estados de EE.UU. han significativo de reglamentación de la energía, y las leyes pueden variar enormemente de un estado a otro.

En un panel de discusión sobre la IA y el transporte, Daniela Rus, Andrew y Erna Viterbi Profesor de Ingeniería Eléctrica y Ciencias de la computación y el director de CSAIL, comentó que ella ve transporte “como uno de los principales objetivos y uno de los principales puntos de la adopción de IA tecnologías en el presente y el futuro cercano.”

Rus sugiere que el uso de vehículos autónomos en algunos de baja velocidad, menos complejos entornos puede ser posible que dentro de cinco años, pero ella también dejó en claro que los vehículos autónomos vaya tan bien en el más complicado, mayor velocidad de situaciones, y la lucha en el mal tiempo.

en Parte por estas razones, muchos de los vehículos autónomos de la figura a la característica de los sistemas donde los conductores pueden tomar respecto de los controles. Pero como Rus señaló, que “depende de la capacidad de las personas para asumir de forma instantánea,” mientras que los estudios son en la actualidad muestra que se toma a los conductores sobre nueve segundos para asumir el control de sus vehículos.

El transporte panel de discusión también se refirió sobre el uso de la IA en náutica y sistemas aéreos. En el último caso, “usted no puede mirar en su AI co-piloto y los ojos del juez de su confianza”, dijo John-Paul Clarke, el vicepresidente de tecnologías estratégicas en United Technologies, con respecto a la compleja dinámica de interfaces hombre-máquina.

En otras industrias, fundamental AI desafíos que implican el acceso a los datos, un punto que destacó por tanto Torralba y Regina Barzilay, un profesor del MIT en tanto CSAIL y EECS. Durante un panel sobre el cuidado de la salud, Barzilay presentado en un aspecto de su investigación, que utiliza la máquina de aprendizaje para analizar los resultados de la mamografía para una mejor detección temprana del cáncer. En Barzilay, la clave de los retos técnicos de su trabajo que pueden ser abordados por AI política incluyen acceso a más datos y pruebas a través de las poblaciones de ambos de los cuales pueden ayudar a refinar la detección automática de herramientas.

El asunto de la mejor manera de crear acceso a los datos de los pacientes, sin embargo, condujo a algunos animado intercambios posteriores. Tom Price, ex secretario de salud y servicios humanos en el Triunfo de la administración, sugirió que “des-identificados de datos es sin duda la clave” para continuar con el progreso, mientras que algunos investigadores del MIT en el sudience sugerido que es prácticamente imposible crear totalmente anónimo de los datos del paciente.

Jason Furman, un profesor de la práctica de la política económica en la Escuela Kennedy de Harvard y ex presidente del Consejo de Asesores Económicos de Obama en la Casa Blanca, abordó la preocupación de que las aseguradoras negar la cobertura a las personas basada en el AI-genera predicciones acerca de lo que la gente tendría más probabilidades de desarrollar enfermedades más tarde en la vida. Furman, sugirió que la mejor solución para este se encuentra fuera de la AI de dominio: la prevención de negación de atención basado en las condiciones pre-existentes, un elemento de la Ley de Atención Asequible.

Pero, en general, Furman agregó, “el verdadero problema con la inteligencia artificial es que no tenemos suficiente.”

Por su parte, Weitzner sugirió que, en lugar de perfectamente anónimo de los datos médicos, “deberíamos estar de acuerdo en cuáles son los usos permitidos y los no permitidos usos” de los datos, ya que “la manera correcta de fomento de la innovación y de tomar en serio la privacidad es tomar la responsabilidad en serio.”

la rendición Pública de cuentas

Para el caso, la rendición de cuentas de las organizaciones constituyeron otra piedra de toque del martes a las discusiones, especialmente en un panel en la aplicación de la ley y de la IA.

“entidades del Gobierno deben ser transparentes acerca de lo que están haciendo con respecto a la IA,” dijo Jim Baker, profesor de la Escuela de Derecho de Harvard y ex abogado general de la FBI. “Creo que es obvio”.

Carol Rose, directora ejecutiva de la Unión Americana de Libertades Civiles de Massachusetts capítulo, advirtió contra el uso de estas herramientas en la aplicación de la ley

“yo creo que AI tiene una gran promesa, pero realmente depende de si los datos científicos y la aplicación de la ley de trabajo juntos,” Rose dijo, lo que sugiere que una cierta cantidad de “ciencia basura” ya había hecho su camino en las herramientas que se comercializan para los funcionarios policiales. Rose también citó la Alegría Buolamwini del MIT Media Lab como un líder en la evaluación de tales AI herramientas; Buolamwini fundó la Algorítmica de la Liga de la Justicia, un grupo profundizando en el uso de tecnologías de reconocimiento facial.

“a Veces me preocupa tenemos una IA martillo buscando un clavo,” Rose dijo.

Todo lo dicho, como Edelman se señaló en el discurso de clausura, la política mundial se compone de “muy diferentes cuerpos de la ley,” y los políticos necesitan preguntarse en qué medida la normativa general son significativas, o si AI cuestiones de política se tratan mejor en formas más concretas — ya sea en la medicina, la justicia penal, o de transporte.

“Nuestro objetivo es ver la interconexión entre estos campos … pero como lo hacemos, vamos a preguntarnos también si ‘AI gobierno” es el cuadro de la derecha del todo — puede ser que en el futuro cercano, toda gestión que se ocupa de IA problemas de una manera o de otra,” Edelman dijo.

Weitzner concluyó la conferencia con una llamada a los gobiernos para continuar el compromiso con la ciencia de la computación e inteligencia artificial comunidades técnicas. “Las tecnologías que están dando forma al futuro del mundo se están desarrollando en la actualidad. Tenemos la oportunidad de estar seguro de que sirven las necesidades de la sociedad si queremos mantener este diálogo como manera de informar el diseño técnico y la investigación interdisciplinaria.”