Tecnología: cómo arreglar lo que está mal con google y facebook

Quizás el tema más sorprendente en Techonomy de este año fue cuán molestos están muchos de los oradores con Facebook, Google y Twitter, con críticas centradas en su enfoque de la privacidad y particularmente en el posible papel que jugaron para permitir el pirateo ruso de las elecciones de 2016.

Una gran variedad de oradores presionaron por varios tipos de regulación de estos "Gigantes de Internet", y nadie de ninguna de las compañías mencionadas estuvo en la conferencia para proporcionar un punto de vista alternativo. Esto fue muy diferente de la conferencia del año pasado, cuando el CEO de Facebook, Mark Zuckerberg, dijo que la idea de que las noticias falsas en Facebook influyeron en las elecciones era "una idea bastante loca".

Desde entonces, como señaló la cofundadora de Techonomy, Simone Ross, hemos aprendido que "la tecnología hace que sea tan fácil dividirnos como unirnos". El cofundador de la conferencia, David Kirkpatrick (arriba), marcó la pauta de la conferencia y dijo que "la tecnología es una fuerza para el bien, pero solo si el bien es su objetivo" y continuó diciendo que creía que las grandes compañías tecnológicas necesitan un "proactivo intersección "con el gobierno, se llame regulación o no.

Autoridad en un mundo en red, artificialmente inteligente

El conocido inversor Roger McNamee de Elevation Partners, uno de los primeros inversores en Facebook y Google, fue quizás el más negativo de todos los oradores. McNamee dijo que estas compañías "comenzaron a salvar el mundo", pero que esto cambió cuando la publicidad se convirtió en su modelo de negocio. Dijo que el teléfono inteligente, cuando se combina con información personal, ha permitido "crear un nivel de pirateo cerebral que nunca antes se había visto en los medios".

McNamee dijo que creía que Zuckerberg era sincero cuando dijo que no creía que tal pirateo fuera posible hace un año, pero dijo que no se puede exagerar el papel que ahora desempeñan Google y Facebook. Comentó: "debe ser difícil ser ellos ahora y darse cuenta de que han destruido la civilización occidental".

danah boyd, datos y sociedad; Roger McNamee, Elevation Partners; Marc Rotenberg, Centro de información de privacidad electrónica (EPIC); Stratford Sherman, complpli

Esta discusión surgió en parte de un panel sobre "Autoridad en un mundo en red, artificialmente inteligente" que también incluyó a Danah Boyd, científica social de Data & Society y Microsoft Research; Marc Rotenberg, presidente del Centro de información de privacidad electrónica (EPIC); y moderador Stratford Sherman de Accompli. Sherman dijo que si bien Facebook y Google comenzaron como foros de discurso público, están "radicalmente desregulados". Con una IA que podría impactar fundamentalmente a la raza humana en el horizonte, Sherman dijo que le preocupan las consecuencias no deseadas del desarrollo tecnológico que ya hemos visto.

Rotenberg dijo que si bien sigue preocupado por las preocupaciones de privacidad tradicionales sobre el seguimiento y el perfil, también le preocupa la falta de competencia, la falta de innovación y el riesgo para las instituciones democráticas. Dijo que los gigantes de Internet tienen un poder enorme, y los datos que poseen crean una verdadera barrera de entrada, por lo que no hay una competencia significativa. Rotenberg dijo que ha estado en Washington desde la administración Reagan y, por primera vez, "las elecciones del año pasado no le resultaron familiares".

En una sesión anterior, Boyd, quien escribió un libro titulado It's Complicated , habló sobre la dificultad de enfrentar la manipulación en Internet.

Ella habló sobre un proceso de manipulación cada vez mayor en los últimos 20 años, que comenzó con los niños trolleando a Oprah y progresó a "rickrolls" y a cosas como cambiar los resultados de búsqueda para el nombre "Santorum". Más recientemente, con Gamergate, un elenco más grande de personajes se ha convertido en jugadores, incluidos los actores estatales. Boyd dijo que las compañías de Internet piensan que la IA puede protegerlos, pero los grupos que intentan manipular los resultados ya están experimentando con el procesamiento del lenguaje natural y, lo que es más importante, alterando las fuentes de datos. Inyectar datos incorrectos en un sistema, por ejemplo, es una nueva vulnerabilidad, en su opinión. Aún así, Boyd dijo que la única respuesta será "construir anticuerpos técnicos en nuestra industria".

En esta sesión, Boyd dijo que las compañías tecnológicas están considerando la manipulación en varios frentes, y señaló que mientras todos están mirando a Rusia, hay muchos otros estados que realizan acciones similares. Por ejemplo, las empresas chinas están tratando de garantizar que controlarán la IA, y dijo que esto presenta un desafío diferente porque no se trata de la competencia industrial sino de competir con un estado.

Cuando Sherman le preguntó si esto es una guerra, Boyd dijo que ella cree que sí, mientras que McNamee dijo que es una guerra de guerrillas clásica en la que nuestros enemigos han usado nuestra tecnología contra nosotros. McNamee dijo que el problema no son las redes sociales o la búsqueda, sino el modelo publicitario. Dijo en la batalla por la atención de la gente, la sustancia queda enterrada por la sensación, y citó el viejo adagio de que "si sangra, conduce".

Sherman señaló que el miedo y la ira son mucho más magnéticos y, por lo tanto, mucho menos costosos. Dijo que aunque los mensajes orgánicos se utilizaron para llegar a más de 125 millones de personas, el objetivo del esfuerzo era que los anuncios segmentaran a las personas en grupos basados ​​en intereses compartidos.

Rotenberg dijo que está a favor de hacer transparentes los algoritmos y regular la publicidad, pero dijo que debemos respetar el derecho de las personas a hablar en línea. Pero McNamee dijo que "la primera enmienda ha sido armada" y que los espacios en línea son fundamentalmente diferentes de la plaza pública.

Boyd describió lo que ella llama el "efecto boomerang", o en otras palabras, la idea de provocar a los medios para informar sobre cosas escandalosas es el punto, porque esto refuerza el mensaje original al segmento de la audiencia que desconfía de los medios. Como ejemplo, Boyd habló sobre Pizzagate. Señaló que antes de Internet, los medios de comunicación a menudo usaban "silencio estratégico" para evitar cubrir cosas como suicidios y manifestaciones del Klan para evitar publicitarlos.

Rotenberg estuvo de acuerdo en que gran parte de esta tradición de diligencia y supervisión se ha perdido, y dijo que cosas como la Sección 230 (que dice que las compañías de Internet no son responsables de cosas como las publicaciones de los usuarios) han hecho que sea más difícil para las noticias tradicionales competir.

Cuando se le pidieron soluciones, McNamee dijo que Facebook es un culto y que debe dejar de negar el problema y tratarlo, así como comenzar a abordar la "desprogramación" al comunicarse con cada uno de sus usuarios. Rotenberg promovió la idea de regulación. Y Boyd sugirió que necesitamos invertir dinero en la sociedad, para "volver a conectar" a Estados Unidos.

Hacer cuentas con los nuevos hegemonistas

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, Universidad de Alabama; David Kirkpatrick, Tecnología

En un panel temprano sobre "Hacer cuentas con los nuevos hegemonistas", casi todos estuvieron de acuerdo con Joyce Vance de la Universidad de Alabama, quien dijo que la tecnología realmente ha sobrepasado la ley, que necesita ponerse al día desesperadamente. Pero Vance advirtió que también existe el riesgo de respuestas políticas "descuidadas".

Dave Morgan de Simulmedia dijo que "habrá regulación", aunque dijo que es posible que las grandes compañías puedan evitar gran parte de su impacto.

Morgan señaló que la historia de la industria de los medios proporciona paralelos a lo que vemos ahora, ya que los periódicos se habrían visto a sí mismos como compañías de impresión, y las primeras compañías de transmisión se vieron a sí mismas como compañías tecnológicas. Todo esto permite proporcionar contacto con el consumidor, que es claramente lo que hacen Google y Facebook. Muchos casos de antimonopolio se produjeron como resultado de un poder de los medios tan concentrado, y el gobierno pudo controlarlos. Una gran diferencia hoy es que las otras tecnologías requieren un nexo geográfico, que las compañías de Internet no necesitan.

Vance señaló que el Senado ahora está considerando un proyecto de ley que exigiría a estas compañías preservar su historial publicitario, así como dejar en claro quién está pagando por los anuncios políticos. Pero Morgan señaló que estas son ahora compañías globales con un alcance más amplio. Cuando se le preguntó acerca de las regulaciones de privacidad del GDPR europeo, Vance dijo que Estados Unidos podría haber cedido el liderazgo a la UE en esta área. Ella dijo que no cree que las compañías estadounidenses puedan cumplir de manera diferente en diferentes áreas geográficas, por lo que, por defecto, las compañías cumplirán con las regulaciones europeas.

Mark Mahaney, de RBC Capital Markets, dijo que las compañías ya están siendo reguladas, particularmente en la Unión Europea, con Google en particular bajo escrutinio por agrupar o promocionar sus servicios junto con sus resultados de búsqueda o con Android. Kirkpatrick dijo que pensaba que el acuerdo antimonopolio realmente ayudó a Microsoft, pero Mahaney respondió que no fueron los reguladores quienes detuvieron a Microsoft, sino la competencia.

¿Pueden la tecnología y el gobierno salvar la democracia?

Tim Hwang, FiscalNote; Minnie Ingersoll, Código para América; Marc Rotenberg, Centro de información de privacidad electrónica; Molly Turner, Escuela de Negocios UC Berkeley Haas; Jon Fine, Inc Revista; Lawrence Norden, Facultad de Derecho de la NYU

Un tema similar surgió en una mesa redonda de desayuno, titulada "Can Tech and Government Save Democracy?", En la cual el moderador Jon Fine, de la revista Inc, pidió soluciones. Sin embargo, la mesa redonda realmente no tuvo ninguna.

Hwang dijo que el problema no son las plataformas tecnológicas, sino la ira que siente la gente como resultado de estar desconectada de la economía.

Lawrence Norden, del Centro Brennan de la Facultad de Derecho de la Universidad de Nueva York, dijo que las leyes que requieren una mayor divulgación en los anuncios políticos son una respuesta fácil, pero que desafortunadamente el gran problema son los "mensajes oscuros" o mensajes de origen desconocido. En ese sentido, dijo, Internet es más como una plaza de la ciudad.

Pero Rotenberg dijo que es todo lo contrario, y que Internet es más como una ciudad de la compañía, donde las plataformas establecen las reglas y deciden lo que ves. Minnie Ingersoll de Code For America preguntó si el problema es la interferencia extranjera o si Google controla lo que decimos. Los reguladores necesitan entender mejor los problemas, dijo.

Molly Turner, de la Escuela de Negocios UC Berkeley Haas, dijo que Internet se ha convertido en el mejor vehículo de expresión, pero le preocupa que esté socavando el discurso civil. Por otro lado, le preocupan los requisitos para que las plataformas eliminen ciertos tipos de información (si la Ley de Decencia en las Comunicaciones se debilitó, por ejemplo, o debido a otros tipos de regulación), porque de repente en ese caso la plataforma se convierte en el "árbitro de habla."

Rotenberg respondió que si bien las compañías automotrices alguna vez lucharon contra las normas de seguridad, al final ayudaron a que los automóviles fueran más seguros y condujeron a más innovación. Sugirió que un entorno regulatorio estable podría ayudar a las plataformas. Rotenberg observó que las compañías tecnológicas han impulsado la "neutralidad de la red" para las compañías de telecomunicaciones, pero no para sí mismas, y pidió igualdad de condiciones.

Internet bajo ataque

Mark Anderson, Servicio de Noticias Estratégicas; Peder Jungck, BAE Sistemas de Inteligencia y Seguridad; Rebecca MacKinnon, Nueva América; David Kirkpatrick, Tecnología

Un panel final llamado "Internet bajo ataque" continuó esta discusión.

Rebecca MacKinnon, quien dirige el proyecto Ranking Digital Rights en Nueva América, dijo que una vez se asumió que, debido a Internet, los regímenes autoritarios se convertirían más en democracias. Ahora tiene más miedo de que los regímenes autoritarios y las democracias "se reúnan en el medio".

MacKinnon dijo que los regímenes autoritarios están adaptando Internet a sus propósitos, mientras que las democracias enfrentan el populismo, la manipulación y el "capitalismo de vigilancia". Pero, dijo, las democracias deben tener cuidado con una respuesta regulatoria; aunque está de acuerdo en que existe una necesidad de mayor transparencia en lo que respecta a algoritmos y privacidad, le preocupa que un sistema de censura facilitaría la represión de las partes. de la sociedad desdeña el gobierno.

Peder Jungck, quien dirige inteligencia y seguridad para BAE Systems, estuvo de acuerdo en que a los gobiernos les gustaría usar dichos sistemas para encontrar disidentes, y dijo que una idea es un producto y que, como cualquier producto, puede ser promovida. Cuando se le preguntó si los sistemas publicitarios están armados, dijo: "La caja de Pandora se ha abierto y no podemos regresar".

Mark Anderson, del Servicio de Noticias Estratégicas, dijo que hemos visto una línea recta desde los días de ARPANET, cuando no había malos, hasta hoy, cuando vemos cada vez más comportamientos maliciosos.

Anderson fue particularmente claro al describir cómo China está robando propiedad intelectual y usándola para sacar a las empresas del negocio. Y sugirió que el truco Equifax tenía todas las marcas de un ataque gubernamental. En resumen, Anderson dijo que "no ve una solución".

Jungck dijo que deberíamos suponer que los malos están en nuestros sistemas y trabajar en soluciones. Por ejemplo, dijo que un número de seguro social ya no es asegurable, por lo que es posible que necesitemos una solución blockchain.

En el proyecto Ranking Digital Rights, MacKinnon evaluó a 22 compañías globales en 35 preguntas sobre temas como la libertad de expresión, privacidad y seguridad. Ella dijo que dos compañías obtuvieron "Ds" y todos los demás fallaron. Ella quiere saber qué están haciendo las empresas con sus datos; con quién lo comparten; si están haciendo la debida diligencia, evaluaciones de seguridad y gobierno para el riesgo; y si están protegiendo la privacidad y la seguridad, el contenido y la expresión. La transparencia no es suficiente, dijo, pero es un primer paso necesario.

Anderson dijo que la transparencia es algo bueno, pero no una solución, y señaló que alguien que quiera manipular un sistema no tiene que pagar por los anuncios, sino que puede usar 100, 000 botnets. Kirkpatrick sugirió que las empresas podrían hacer cumplir la identidad y, por lo tanto, reducir el uso de botnets.

Pero MacKinnon respondió que los activistas de derechos humanos son los más vulnerables al uso de tales sistemas, porque si se hace cumplir la identidad, entonces nadie que se oponga a un gobierno autoritario estaría en las redes sociales.

Jungck se preguntó por qué necesitamos forzar una identidad cuando los sitios ya saben quién es usted y qué va a comprar. "No hay anonimato en Internet, hace mucho que desapareció", dijo. La única diferencia es cuánto tiempo lleva descubrir quién eres.

En conclusión, MacKinnon dijo que es optimista a largo plazo, pero para los próximos 100 años, "no tanto".

Al escuchar todo esto, es fácil ser pesimista, o al menos fatalista, sobre la cantidad de regulación necesaria y el impacto que tendrá. Pero todavía tiendo a ser optimista, y aunque creo que es probable y necesaria cierta cantidad de regulación adicional, creo que es igual de probable que los gigantes de Internet de hoy, o algunos jugadores futuros, obtengan mejores respuestas.

¿Qué posibilidades hay de que recomiende PCMag.com?