Video: Don't fear intelligent machines. Work with them | Garry Kasparov (Noviembre 2024)
Garry Kasparov fue una de las primeras víctimas de la revolución de automatización de IA. Su pérdida ante el Deep Blue de IBM lo convirtió en el primer campeón humano de ajedrez en perder una partida contra una computadora. Pero Kasparov no está cansado; su libro, Deep Thinking , explora cómo la IA realmente puede ayudarnos a ser más humanos.
Dan Costa: después de una carrera jugando ajedrez y luchando contra Deep Blue, desde entonces te has convertido en un experto en ajedrez de IA. ¿Cómo quieres que la gente entienda la inteligencia artificial?
Garry Kasparov: Tengo que confesar que conozco los límites de mi ignorancia. Es por eso que estoy feliz de hablar sobre cosas en las que confío en mi propia experiencia, y creo que tengo cierto conocimiento de las relaciones hombre-máquina, y podría hablar con cierta autoridad sobre los resultados futuros.
Además, creo que todavía estamos en una edad muy temprana de IA, y deberíamos debatir incluso algunos términos. Se trata de semántica, se trata de filosofía, y siempre digo que la gente piensa que estamos en la era de Windows 10, mientras que todavía estamos en MS-DOS.
En este momento, es muy importante entender realmente: "¿Qué es la IA? Cuando decimos IA, ¿qué queremos decir?" Porque si le preguntas a 10 expertos sobre IA, apuesto a que obtendrás 11 o 12 respuestas. Todavía hay bastante desacuerdo.
Todavía hay detalles, pero creo que, en general, reconocemos que está bien, hay un grupo de personas que llamaremos optimistas, frente a la gran multitud de agoreros. De alguna manera, el público está más dispuesto a aceptar escenarios de juicio final, creo que es nuestro instinto de temer al futuro, lo que también es interesante porque cuando vuelves a los años 50 y 60, la ciencia ficción era muy optimista. Se trataba de nosotros, solo de trabajar con máquinas.
Ahora, cuando miras los años 70, 80 y 90, se cambia a la visión distópica. Se trata de terminadores. Se trata de Matrix, y ahora el género de ciencia ficción está casi muerto porque se trata más de fantasía, se trata de magia. La gente tiene mucho miedo de hablar sobre el futuro porque no estamos seguros de lo que sucederá allí. Creo que simplemente deberíamos reconocer que la IA no es una varita mágica, pero no es un terminador. No es un presagio de utopía o distopía. Es una herramienta. Es algo con lo que deberíamos encontrar una manera de lidiar.
No está abriendo las puertas del infierno, pero no es un paraíso. No es una solución para todo. No es una salvación. Miremos los problemas de la Tierra y mi mayor preocupación hoy no es sobre robots asesinos o algún tipo de realidad virtual que pueda arruinar nuestro sentido de la realidad, sino sobre los malos actores. Se trata de terroristas. Se trata del espacio rocoso utilizando esta tecnología para dañarnos. Siempre digo que la gente… tiene el monopolio del mal. Ahí es donde deberíamos, creo que concentrarnos, pero también debería reconocer que la IA podría hacer muchas cosas buenas para nosotros porque lo que la gente dirá, "Oh, la IA crea nuevos desafíos. La IA podría eliminar muchos trabajos". Exactamente. Eso es lo que sucedió con los trabajos en la agricultura, los trabajos en la manufactura. La tecnología disruptiva siempre destruye las industrias pero, al mismo tiempo, crea nuevos empleos.
Digo que la tecnología es la razón principal por la que tantas personas siguen vivas para quejarse de la tecnología porque simplemente no reconocemos que la vida útil promedio creció, creo que 45, 47 desde principios del siglo XX hasta ahora 75, gracias a la tecnología. Queremos beneficios, queremos conveniencia, y no miramos el precio. La gente compra Alexa, o descarga una aplicación de reconocimiento facial, y luego se queja de la privacidad. Es hora de que comprendamos lo que esperamos de estas tecnologías, entonces, ¿cómo queremos lidiar con ellas? Cómo pueden mejorar nuestras vidas y al mismo tiempo reconocer que no debemos debatir sobre la leche derramada. Va a suceder.
No debemos preguntarnos si lo queremos o no, está sucediendo. Creo que cualquier intento de prolongar la agonía y ralentizar el proceso es contraproducente porque los trabajos que están condenados no se pueden guardar. Pero tenemos que pensar en nuevas industrias. ¿Cómo podemos crear nuevos empleos que nos ayuden a crear… un colchón financiero para cuidar a los que se quedaron atrás?
Dan Costa: Ese fue uno de los puntos que destacaste en Deep Thinking . La IA presenta una oportunidad para que seamos más humanos. Creo que necesitamos desarrollar eso y hacer que las personas sientan y comprendan.
Garry Kasparov: El informe McKinsey del mercado laboral de EE. UU. En 2016 fue una clara demostración. ¿Qué poca creatividad se ha utilizado?
Muchos de los trabajos que hacemos son repetitivos, sin procesar. Los trabajos intelectuales también pueden ser repetitivos. También pueden ser ejecutados fácilmente por las máquinas con mucha más eficacia. Aquí, llegas al punto en que lo que hemos aprendido de los juegos… del ajedrez, del golf, de cualquier otro juego, es mientras tengamos el marco creado por los humanos, y sabemos lo que estamos haciendo., las máquinas lo harán mejor.
Deberíamos reconocer que en todos los sistemas cerrados, las máquinas serán superiores. Por cierto, no tenemos que entender cómo lo hacen. Ese es otro error. Queremos explicabilidad. Las máquinas podrían hacerlo de una manera muy incómoda de nuestros estándares. Los aviones volaban rápido, y el pájaro estaba levantando sus alas. Es por eso que pensar que las máquinas nos superarán incluso en errores de intelecto, al hacer algo que entiendes es incorrecto. Deberíamos buscar los resultados, y ese es el otro problema para las empresas porque hay muchas regulaciones que requieren que expliquen lo que están haciendo, pero la explicabilidad puede no existir si desea buscar eficiencia y productividad.
Dan Costa: Sacaste a colación el caso sobre Go, y lo que hizo que Go AI fuera mucho más eficaz fue cuando se enseñó a sí mismo cómo jugar. No tenía reglas impuestas por los humanos.
Garry Kasparov: Es lo mismo que el ajedrez ahora. Una vez más, el futuro de las relaciones de misión humana será mucho en los propios humanos que actúan como pastores porque tendremos que encontrar una manera de crear estos sistemas geniales, las áreas de inteligencia estrecha, donde las máquinas harán el trabajo mucho mejor que cualquier humano.. Luego, para ver cómo se conectan. Estas áreas de inteligencia estrecha al campo general, al sistema abierto. Una vez más, parece fácil, pero creo que es un gran desafío porque el espacio para los humanos y sus relaciones con las máquinas podría reducirse cada vez más. Incluso quizás duren unos pocos decimales, pero no importa. Podría ser mucho más efectivo porque hay mucho poder. El canalizarlo o cambiar la dirección en un 0.1 por ciento de un grado de este ángulo podría tener una diferencia masiva y masiva, un objetivo a una milla de distancia.
Dan Costa: Una de las cosas que me preocupa acerca de la inteligencia artificial es que los buenos sistemas de inteligencia artificial están impulsados por una gran cantidad de datos y algoritmos realmente geniales. Si observan quién tiene la mayoría de los datos en este espacio en este momento, es una gran tecnología, son los gobiernos estatales. ¿Cómo ve el papel del individuo en esta revolución de la IA? Porque parece haber cierta asimetría de acceso a estas nuevas tecnologías y diferentes motivaciones.
Garry Kasparov: Sí. No podría estar mas de acuerdo. Tenemos este problema y creo que el público lo reconoce, pero todavía no es suficiente la presión de los gobiernos para imponer reglas muy estrictas y medidas muy punitivas a las corporaciones que están violando la privacidad.
Una de mis preocupaciones como presidente de la Fundación de Derechos Humanos es que las reglas difieren de un mundo democrático a otro libre. Me resulta muy preocupante que estos gigantes multinacionales, como Google, Apple, Microsoft, Facebook, apliquen reglas muy diferentes a sus clientes en Estados Unidos o Europa, y a aquellos que no tuvieron tanta suerte de nacer en el mundo libre y vivir en el mundo libre. China, Rusia, Turquía, donde liberar los datos de las actividades sociales podría ser literalmente una cuestión de vida o muerte. Creo que ese es el paso número uno, pero también debemos reconocer que si se están produciendo datos, se recopilarán.
Estoy seguro de que hay muchas maneras en que los gobiernos podrían limitar el uso de estos datos. Además, creo que es una ventaja del lado público porque después del testimonio de Mark Zuckerberg en el Senado de los Estados Unidos, que encontré… fue una sorprendente muestra de ignorancia por parte de los legisladores estadounidenses. No pudieron hacer buenas preguntas durante cinco horas; Lo tenían en un asiento caliente y era un desperdicio. No vi indignación pública. Se ha perdido una gran oportunidad.
El simple consejo: "Vamos a dividirlos". No es el aceite estándar. Si comienzas a dividir, y odio los monopolios, pero tendrás muchos, muchos Google con datos repartidos. Deberíamos encontrar una manera de empoderar a las personas. No conozco las tecnologías blockchain, pero probablemente esta es la forma de ayudar a las personas a controlar sus propios datos y su propio futuro. Creo que todavía hay un momento en que es el concepto original de internet, red social. Ahora, de repente, son las redes sociales. La gente simplemente no lo reconoce. No es una diferencia semántica.
Dan Costa: está monetizado de una manera totalmente diferente.
Garry Kasparov: Se trata de conectar a las personas. Se trata de que la idea era cómo unirnos. Cómo empeñar al individuo, obtener acceso a los datos y producir algo que pueda beneficiarlo y que sea parte de este sistema global. Las redes sociales son diferentes, tú eres el objetivo. Ahora eres… el objetivo de las grandes corporaciones. ¿Cómo volvemos a este concepto de red social? No tengo soluciones, confieso mi ignorancia aquí sobre las soluciones técnicas, pero sé que esta es exactamente la filosofía que es la pregunta correcta. Creo que el público no entiende la seriedad de este desafío.
Dan Costa: eres ciudadano ruso...
Garry Kasparov: También ciudadano croata, tengo un pasaporte electrónico, así es como viajo.
Dan Costa:… vive en los Estados Unidos, pero ha escrito mucho sobre propaganda, sus efectos y sus poderes, y cómo está siendo utilizada por el gobierno ruso. Aquí en los EE. UU., Ahora tenemos un universo de medios de Facebook, Twitter y Google que es casi como una máquina de propaganda privada a la que pueden acceder gobiernos, empresas individuales. Nuevamente, como alguien que se ha ocupado de estos problemas y los comprende, ¿qué consejo tiene para los Estados Unidos? A medida que avanzamos en este sistema donde ya no podemos creer lo que vemos en línea.
Garry Kasparov: Mire, he estado enfrentando el auge de la industria de noticias falsas y las fábricas de trolls en la Rusia de Putin desde el comienzo de este siglo. Aproximadamente entre 2004 y 2005, los expertos en propaganda de Putin, los muchachos de la KGB, tomaron una decisión fiel de no seguir a China por cortafuegos. Pero más bien, creando los sitios web falsos de Internet que contienen mucha información real sobre estas piezas venenosas. En lugar de tener la portada de un periódico apropiado, la historia que todos deben seguir, la línea del partido, se podría difundir en muchas piezas, en docenas de piezas. Póngalo en un paquete envuelto en muchas historias reales.
No es tan simple como decir, Garry Kasparov es un enemigo del estado. No, alguien está diciendo que Garry Kasparov es un enemigo del estado, pero luego alguien más dijo que no, pero era un gran jugador de ajedrez, pero probablemente ahora estaba infiltrado por la voz y la propaganda. Alguien dirá, no, no, no, él es un buen tipo. Entonces toda la página de comentarios podría ser falsa.
Dan Costa: Los bots están discutiendo con los bots.
Garry Kasparov: Bots y son muy buenos en esto, por eso un día cuando Putin atacó las elecciones estadounidenses en los Estados Unidos, realmente tenía más de 10 años de experiencia en estas industrias. Trabajando en Rusia, en países vecinos con grandes comunidades rusas en Europa del Este, en Europa occidental.
En mi libro, Se acerca el invierno: por qué deben detenerse Vladimir Putin y los enemigos del mundo libre , 2015, dije que era solo cuestión de tiempo. No es si, sino cuándo y dónde atacaría. Porque, de nuevo, ya construyeron esta máquina y es relativamente barata. Todavía son miles de millones de dólares de inversión, pero en comparación con la intervención militar abierta, la confrontación… es relativamente barata. Y también, se ajustaba a la mentalidad KGB de Putin, su fondo KGB, su fondo de espionaje. Entonces, en lugar de una confrontación abierta, siempre busca una oportunidad para infiltrarse. Esos son los métodos clásicos de Judo, usas las fortalezas de tu oponente contra él. Para Putin fue brillante porque era tecnología occidental y el mundo libre, y se podía usar para socavar los cimientos del mundo libre.
Dan Costa: ¿Tienes algún consejo sobre cómo salir de esta situación? Porque parece que está sucediendo, realmente no se ha detenido.
Garry Kasparov: No, y no se detendrá. Para cualquiera que tenga experiencia ilimitada, la respuesta es obvia. La defensa es una propuesta perdedora. En seguridad cibernética, puede construir las defensas, pero al final del día la única respuesta es la disuasión. Es como la Guerra Fría, te guste o no, es una Guerra Fría cibernética. Estamos bajo constantes ataques de Putin u otros enemigos del mundo libre. Ya sea que se trate de estados como Irán, Corea del Norte o China, u organizaciones cuasi-estatales que también usan los mismos métodos.
Solo la disuasión podría detener estos ataques o limitarlos. Porque entenderán las consecuencias de ser demasiado agresivo. Tratando de proteger nuestros puntos débiles aquí y allá, es importante que construyamos algunas defensas. Es importante que sensibilicemos al público sobre las amenazas, pero no va a funcionar. En cuanto a las industrias de noticias falsas, existen muchos desafíos dentro de nuestra sociedad libre, que permitieron la industria de noticias falsas. Se trata de un miedo al partidismo, se trata de la ausencia de un diálogo entre personas con diferentes puntos de vista ideológicos que ayudaron a Putin, y otros enemigos del mundo libre, a usar las noticias falsas para cerrar esta brecha.
Dan Costa: Entonces, ahora estás trabajando con Avast, una compañía con la que los lectores de PCMag están muy familiarizados. ¿Qué consejo le das a los consumidores sobre cómo elevar su nivel de defensa?
Garry Kasparov: En cuanto al nivel individual de defensa, eso es muy fácil. El primer mensaje es para los propietarios de casas inteligentes. Me sorprendió un poco porque incluso en South by Southwest, hablé con mucha gente, personas con buena experiencia no entienden cuán vulnerables son las casas inteligentes hoy en día.
Hogar estadounidense, 39 millones tienen al menos un dispositivo vulnerable. Las personas no entienden que un dispositivo vulnerable hace que toda la casa inteligente sea vulnerable. Porque las fortalezas de tu pirámide de defensa dependen del eslabón más débil. Una manzana podrida hace que todo el paquete se pudra.
La mayoría de los problemas son creados por fabricantes de electrodomésticos tradicionales (lavadoras, cafeteras) porque no hay experiencia en la construcción de sistemas digitales. Pero tienen que hacerlo ahora. A un costo muy bajo, porque es una competencia de precios, pero quieren ser parte del sistema. La mayoría de los sistemas simplemente no tienen defensas adecuadas. Creo que necesitamos… la supervisión del gobierno, tenemos que presionar para forzar el cumplimiento de ciertos estándares.
Pero también tener que proporcionar manuales separados, porque nadie lee el manual de 100 páginas. En la página 85, lees algo sobre estas cosas digitales, la gente no lo lee. La mayoría de ellos usan el modo predeterminado, que por supuesto es una invitación abierta para un hacker. Creo que es muy importante que la gente empiece a hacer lo que yo llamo higiene digital, porque nos lavamos las manos, nos cepillamos los dientes, lo hacemos automáticamente. No nos salva de algunas enfermedades graves, pero se puede evitar el 90 por ciento de los problemas. Lo mismo con nuestros dispositivos móviles conectados, aún debemos protegernos de los virus, pero se pueden hacer muchas cosas demostrando que nos preocupamos porque es tan importante como nuestra salud.
Dan Costa: Entonces quiero hacerte las tres preguntas que hago a todos los que vienen al programa. ¿Hay alguna tendencia tecnológica que te preocupe y que te mantenga despierto por la noche?
Garry Kasparov: No, soy un optimista incorregible. Me preocupan las personas malas, no las malas tecnologías porque cada tecnología tiene un doble uso. Puedes construir un reactor nuclear pero antes desafortunadamente construyes una bomba nuclear. Es lamentable que la destrucción sea más fácil que la construcción. Es por eso que en la historia siempre sabemos que se ha probado una nueva tecnología disruptiva para detectar algún tipo de daño.
Dan Costa: ¿No te preocupa que le pase lo mismo a la IA? ¿Seré usado para destruir antes de que se use para crear?
Garry Kasparov: Nuevamente, no se trata de robots asesinos. Se trata de los malos, los malos actores detrás de esto. La gente dirá oh, deberíamos pensar en la IA ética. La inteligencia artificial no podría ser más ética que sus creadores. No entiendo lo que significa, como la electricidad ética. Si tenemos un sesgo en nuestra sociedad, AI lo sigue. Ve una disparidad, ya sea racial, de género o de ingresos. Lo toma en cuenta; La IA es un algoritmo basado en probabilidades. Entonces, de alguna manera, quejarse de una IA ética es como quejarse de un espejo porque no nos gusta lo que vemos allí.
Dan Costa: ¿Hay una tecnología que usas todos los días que todavía te sorprenda?
Garry Kasparov: No. Para mí, la verdadera maravilla del mundo es el acceso a la información. Como puedo recopilar datos, lo hace más fácil. Crecí en la Unión Soviética, y la información era escasa, no había muchos libros. Ahora, el hecho es que puedo Kindle… simplemente me hace sentir bien. Hay tanta tecnología que nos rodea ahora que nos ayuda a mejorar. Además, lo que es sorprendente, la gente sigue quejándose, ¿qué podemos hacer? No hay nada nuevo que pueda inventarse… y digo que esperen un segundo. Si miras este dispositivo en tu bolsillo, retrocedamos en 1976 o 1977, la supercomputadora Cray fue como un milagro. Este dispositivo es qué? ¿Diez mil veces más poderoso?
- AI es (también) una fuerza para el bien AI es (también) una fuerza para el bien
- Esta IA es demasiado poderosa para lanzar al público Esta IA es demasiado poderosa para lanzar al público
- Esta IA predice el Trolling en línea antes de que ocurra Esta IA predice el Trolling en línea antes de que ocurra
Dan Costa: más poderoso que el transbordador espacial.
Garry Kasparov: Exactamente. Tenemos tanto poder y… Quiero que comencemos a soñar en grande otra vez. Porque tenemos estas oportunidades ahora. Lo siento mucho por la carrera espacial, detuvimos la exploración espacial, la exploración del océano profundo. Volvamos, intentemos hacer grandes cosas. Hace cuatro años, pronuncié un discurso de graduación en la Universidad de Saint Louis en Missouri. Dirigiéndome a los estudiantes de posgrado que dije, hay que revivir el espíritu de exploración, especialmente porque San Luis es la puerta hacia el oeste, y hoy es más seguro volar a Marte que a Colón para cruzar el Atlántico. Porque, al menos sabemos la distancia y tenemos el mapa. Espero que nuestros hijos, nuestros nietos… sean más agresivos en sus sueños, al usar esta tecnología fenomenal para impulsarnos hacia adelante porque creo, confesemos, admitamos este hecho importante; nuestra generación se ha ralentizado en nuestra búsqueda por descubrir las maravillas del mundo, el espacio o los océanos.
