Tecnología: innovación, ai y ética.

Algunas de mis sesiones favoritas en la conferencia Techonomy a principios de este mes trataron sobre ética, valores, innovación y cómo la inteligencia artificial ha entrado en juego en estas áreas.

Valores humanos para una era tecnologizada

El fundador de Techonomy, David Kirkpatrick, comenzó la conferencia con una charla sobre el enfoque en los valores humanos de la tecnología. La primera gran conversación fue sobre "valores humanos" con Julie Hanna, presidenta ejecutiva de Kiva, quien habló sobre la tecnología como una fuerza democratizadora y señaló que gran parte del mundo vive con menos de $ 2 por día. Ella dijo que "la mayor forma de justicia es el acceso justo".

El reverendo Michael C. McFarland, Tesorero, Provincia del Nordeste de los Estados Unidos de la Compañía de Jesús, dijo que debemos preguntarnos dónde está la justicia, en términos de la forma en que se usa la tecnología, y pensar en los supuestos integrados en la tecnología. Le preocupa que la tecnología del lugar de trabajo, que puede producir una mayor eficiencia y productividad, a menudo se implementa sin pensar en el impacto en los trabajadores, que a veces sufren impactos devastadores. Instó a la audiencia a comenzar pensando en la experiencia del trabajador.

Erica Kochi, Directora Ejecutiva de Innovación y cofundadora de UNICEF Innovation, señaló que hace siete años, no había una buena solución tecnológica dirigida a los más pobres de los pobres, y el único denominador común era el mensaje de texto. Su grupo se ha centrado en crear sus propias soluciones utilizando mensajes de texto, y señaló que, aunque hay teléfonos Android muy económicos, el sistema operativo fue creado para personas con un plan de datos, no para aquellos que viven con menos de $ 2 por día. "Si vamos a crear productos y servicios para personas que no son nosotros, debemos pensarlo desde su punto de vista", dijo.

Hanna habló sobre la "falsa elección entre propósito y ganancias, entre misión y producto", y dijo que las culturas impulsadas por la misión son mejores lugares para trabajar, generan mayor lealtad y ayudan a construir compañías duraderas. Kochi dijo que puede hacer ambas cosas, y dijo que el modelo de negocio central debe estar alineado con la responsabilidad social, lo que no debe ser algo que se haga de forma paralela.

McFarland habló sobre enfocarse no solo en los accionistas, sino también en todos los interesados ​​en una compañía, y utilizó como ejemplo los Laboratorios Bell de AT&T antes de la ruptura de la compañía. Le preocupa la falta de inversión en I + D a largo plazo y dijo que "tenemos que cambiar la cultura sobre cómo pensamos sobre los negocios y lo que significa tener éxito".

Biblioteca

En una charla posterior me impresionó Tony Marx, presidente de la Biblioteca Pública de Nueva York, quien dijo que, en contraste con la suposición de que algunas bibliotecas están desapareciendo, vio que las nuevas tecnologías ofrecen la mayor oportunidad en la historia para qué bibliotecas siempre he defendido: ayudar a las personas a acceder a la información.

Señaló que en el pasado, las bibliotecas estaban retenidas por las limitaciones físicas y financieras de llevar a las personas a las colecciones, pero dijo que esto está cambiando.

Las bibliotecas pueden tener un impacto en tres grandes formas, dijo. La primera es simplemente conectando a las personas, y señaló que un tercio de los estadounidenses no tienen conectividad a Internet en el hogar, pero las bibliotecas también pueden servir para capacitar a las personas sobre cómo usar las computadoras y cómo codificar.

Dijo que aunque los motores de búsqueda de hoy son "increíbles", tienen limitaciones, y señaló que mucha de la información básica de calidad producida por milenios de esfuerzo aún no está disponible. Dijo que su visión es ofrecer a los usuarios de la biblioteca "cada libro, cada imagen, cada documento y cada archivo en cualquier parte del mundo de forma gratuita".

Todo se remonta a la noción anticuada de una biblioteca como base, dijo Marx, y nos instó a imaginar si todo el talento del mundo tenía la capacidad de aprender, crear e innovar como quisieran. "Tenemos las herramientas para hacerlo imparable", dijo. "Vamos a hacerlo."

Dioses en cajas: algoritmos todopoderosos y valores ocultos

Oren Boiman, cofundador y CEO de Magisto, que utiliza IA para editar videos, dijo que "las computadoras se están volviendo cada vez más cajas negras", con algoritmos creados por redes neuronales que superan a los mejores algoritmos diseñados por programadores. Aunque estos algoritmos pueden tomar decisiones mucho mejor que los humanos, nadie comprende exactamente cómo lo hacen.

Vivienne Ming, cofundadora y presidenta ejecutiva de Socos, que vende software que ayuda a los niños a aprender enviando una recomendación al día a sus padres, habló sobre la creación de algoritmos inteligentes. Ella dijo que gran parte del trabajo con redes neuronales profundas depende de conjuntos de entrenamiento, y habló sobre un algoritmo de reconocimiento facial que no reconoció las caras negras debido a un sesgo inherente en el entrenamiento. "Las computadoras son como las personas", dijo. "Depende de cómo los críes".

El científico jefe de Yahoo, Ron Brachman, dijo que aunque estamos usando términos antropomorfizados para describir máquinas, todavía hay una diferencia fundamental entre humanos y computadoras en este momento. Las personas toman decisiones basadas en sus necesidades y deseos, lo cual es muy diferente a la forma en que los sistemas computacionales toman decisiones en estos días.

Boiman explicó cómo en la mayoría de estas "cajas negras" todo está conectado, y pequeños cambios en la entrada pueden hacer grandes y, a veces, caóticas diferencias en los resultados, como cuando los videos se vuelven virales. Dijo que esto hace que las cosas sean impredecibles, y es difícil rastrear las cosas hasta lo que sucedió inicialmente. Brachman señaló que así como no tenemos forma de controlar lo que los niños aprenden, lo mismo es cierto para los mecanismos computacionales.

Máquinas de negocios inteligentes

La discusión sobre la IA y los problemas éticos que surgen continuó en otro panel con los líderes de algunas compañías de software más especializadas. Babak Hodjat, cofundador y científico jefe de la empresa de aprendizaje automático Sentient Technologies, dijo que la cuestión de la ética es un poco molesta cuando se trata de IA, y que la ética también afecta a todo tipo de otras tecnologías, desde teléfonos inteligentes hasta puntajes FICO.

George John, presidente y fundador de la compañía de publicidad programática Rocket Fuel, señaló las ventajas de la tecnología y dijo: "Si la IA realmente funciona, la gente debería llegar a casa antes". Habló sobre la necesidad de nuevas habilidades de gestión y la gestión de personas y máquinas inteligentes. También habló sobre la búsqueda de aplicaciones de IA que no solo sean adecuadas para grandes empresas, sino que también puedan beneficiar a las personas.

Jag Duggal, vicepresidente sénior de gestión de productos de la empresa de medición de audiencia Quantcast, dijo que estas son herramientas diseñadas para hacernos más productivos, hacer más cosas y aumentar nuestra capacidad. Dijo que hay una miríada de innovación y productividad que pueden surgir de esto, y dijo que aunque hay temores de que la tecnología se vuelva demasiado buena, está mucho más preocupado por los límites de la tecnología.

Estaba particularmente preocupado por los incentivos y lo que sucede cuando los algoritmos de aprendizaje automático terminan siguiendo los incentivos equivocados. Por ejemplo, señaló cómo en el mercado de colocación de anuncios en línea, los vendedores de comercio electrónico estaban dando crédito al último anuncio que vio una persona antes de realizar un pedido. Esto da como resultado que se orienten más anuncios después de que una persona ya haya visitado un sitio de comercio electrónico y, a menudo, después de que alguien haya decidido comprar; en otras palabras, cuándo puede desperdiciarse el anuncio. Quantcast está tratando de dar mejores ejemplos, dijo.

Jon Stein, fundador y CEO de la compañía de inversiones basada en inteligencia artificial Betterment, habló sobre el bien que la tecnología puede hacer y estuvo de acuerdo en que era importante establecer incentivos claros. Él habló sobre seguir los estándares fiduciarios, como actuar en el mejor interés de su cliente, y dijo que la transparencia tiene un papel importante que desempeñar, para que las personas puedan entender dónde pueden ocurrir conflictos.

Stein dijo que la tecnología hará que sea más difícil ser un criminal con el tiempo, pero Duggal dijo que es más escéptico, porque los delincuentes también tienen tecnología. Aún así, está impresionado por el potencial de la tecnología y citó un ejemplo de un proyecto de Google donde una IA puede identificar cánceres en lunares en la piel. Dijo que está preocupado por un "error de estructura" del tema por parte de los opositores de la tecnología.