What the departing White House chief tech advisor has to say on AI

Si los consumidores no confían en que las herramientas de inteligencia artificial con las que interactúan respetan su privacidad, no incorporan prejuicios ni discriminación y no causan problemas de seguridad, entonces todas las maravillosas posibilidades no funcionarán. En ninguna parte esto es más cierto que en el ámbito de la seguridad nacional y la aplicación de la ley.

Te daré un gran ejemplo. La tecnología de reconocimiento facial es un área donde ha habido algunos usos horribles e inapropiados: tomar un video granulado en una tienda de conveniencia e identificar a un hombre negro que nunca ha estado en ese estado, quien luego es arrestado por un delito que no cometió. (Nota del editor: Prabhakar se refiere a esta historia). Deben cesar los arrestos injustos basados ​​en el uso indebido grave de la tecnología de reconocimiento facial.

A diferencia de eso, cuando paso por seguridad en el aeropuerto, te toman una foto y la comparan con tu identificación para asegurarse de que eres quien dices ser. Es una aplicación muy limitada y específica que relaciona mi imagen con mi identificación, y el letrero me dice (y nuestros colegas del DHS me dicen que ese es realmente el caso) que van a eliminar la imagen. Se trata de un uso eficaz y responsable de este tipo de tecnología automatizada. Adecuadas, respetuosas y responsables: aquí es donde debemos ir.

¿Le sorprendió ver que el proyecto de ley de seguridad de la IA se convertía en vetado en california?

Yo no lo era. Seguí el debate y supe que había opiniones firmes en ambos lados. Creo que lo que dijeron, y creo que fue correcto, los opositores a este proyecto de ley fue que simplemente no era práctico, porque era una expresión de deseo sobre cómo evaluar la seguridad, pero en realidad, simplemente no sabemos cómo para hacerlo. estas cosas. Nadie lo sabe. No es un secreto, es un misterio.

Para mí, esto realmente nos recuerda que, si bien todo lo que queremos hacer es saber qué tan seguro, efectivo y confiable es un modelo, en realidad tenemos una capacidad muy limitada para responder estas preguntas. En realidad, se trata de preguntas de investigación muy profundas y un gran ejemplo del tipo de I+D pública que ahora debe llevarse a cabo a un nivel mucho más profundo.

Hablemos de talento. Gran parte del reciente memorando de seguridad nacional sobre IA se centró en cómo ayudar a que el talento adecuado llegue a Estados Unidos desde el extranjero para trabajar en IA. ¿Crees que estamos manejando esto de la manera correcta?

Esta es una pregunta extremadamente importante. Es la historia estadounidense suprema, que la gente vino aquí a lo largo de los siglos para construir este país, y eso es más cierto que nunca en la ciencia y la tecnología. Vivimos en un mundo diferente. Vine aquí cuando era pequeña porque mis padres vinieron aquí desde la India a principios de los años 1960 y en ese momento las oportunidades eran muy limitadas. [to emigrate to] muchas otras partes del mundo.