Dilema social: Los algoritmos capturan las debilidades humanas...

Los siguientes artículos se derivan de la lectura El autor lee el núcleo

Plataforma de aprendizaje y desarrollo de IA para jóvenes

Social Dilemma, una apuesta de años de Jeff Orlowski y el equipo de Exposure Labs, debutó recientemente en Netflix y rápidamente saltó al top 10. La película combina sutilmente el drama con entrevistas conmigo y una docena de ex ejecutivos de redes sociales con la esperanza de transmitir las (a menudo subconscientes) consecuencias de la creciente dependencia del mundo de las noticias y el entretenimiento de las redes sociales.

Por supuesto, para las personas en la industria tecnológica, los problemas están en todas partes. En los últimos días, gerentes de productos, ingenieros, diseñadores y otros ejecutivos de tecnología dentro y fuera de Silicon Valley han estado en contacto con el autor para entender mejor lo que está pasando aquí y lo que pueden hacer. Hay cierta confusión sobre cómo nació la película, quién estuvo involucrado, y cómo se asoció con otros temas candentes en la tecnología durante la última década.

Para que la película sea lo más conocida posible, el equipo de Exposure Labs aparentemente mantuvo todo en un nivel relativamente alto. Si quieres profundizar y entender la estética del producto y la psicología humana involucrada, aquí está mi propia opinión.

En primer lugar, hay algunos puntos clave para explicar:

· Este post no es crítico y no está dirigido a nadie. Estos desafíos son estructurales y no son el resultado de ningún individuo, equipo o empresa. Mis colegas de la compañía son increíbles, inteligentes, apasionados y éticos, y todos los que he conocido (trabajé allí) están desesperados por hacer lo mejor para la gente del mundo.

· Hoy no estamos en una posición por quién carece de ejecución. De hecho, fue la ejecución lo que nos trajo aquí: los algoritmos que soportan las plataformas actuales han tenido más éxito que nunca, y el equipo de diseño de productos de ingeniería ha iterativo rápidamente para lograr los objetivos de la empresa. No es un secreto que la obra ha sido promovida y ampliamente reconocida, que no está escondida en la nieve.

· Estos temas son mucho menos controvertidos ahora que cuando entrevisté sobre la película a principios de 2018. He oído del equipo de producción que es muy difícil convencer a nadie en ese momento para que comente sobre estos temas. Personalmente, estaba indeciso para dar una entrevista, pero me alegro de que Jeff Orlovski me convenciera.

· Estoy seguro de que hay mucha gente pensando en lo mismo, y van a hacer una gran contribución a esta película. Sé que el equipo de producción se puso en contacto con mucha gente y trató de convencerlos de que participaran, y los resultados fueron mixtos, y debieron haber perdido a algunas personas.

· Estos desafíos tienen muchos matices técnicos que son difíciles de expresar con palabras, y mucho menos en las películas. No quiero pretender saberlo todo, espero que este artículo abra el camino a un diálogo efectivo en la industria tecnológica.

· Sin embargo, el impacto de las redes sociales en el mundo actual es real y devastador. El status quo es insostenible, y estas empresas necesitan tomar esto en serio y hacer cambios importantes en sus plataformas más rápido que en la actualidad.

Fondo.

Fuente: unsplash

En 2015, fui nombrado Jefe de Productos de Consumo de Twitter, donde dirigí el equipo de productos, trabajé estrechamente con los departamentos de diseño e ingeniería, y fui responsable de las operaciones de Twitter en iOS, Android y páginas web - la experiencia principal del consumidor que Twitter habría pensado. El 18 de enero de 2017, dejé Twitter y en secreto prometí que nunca volvería a trabajar para las redes sociales basadas en anuncios.

Hace aproximadamente un año, el 12 de abril de 2016, asistí a una pequeña cena en San Francisco organizada por Tristan Harris, un ex ético de diseño de Google que más tarde fundó el Centro de Tecnología Humana. Durante la cena con Dave Morin, ex director de la plataforma de Facebook, y Chris Messina, el creador del hilo, Tristan expresó su profundo entendimiento de la capacidad de la red social para robar el control del tiempo de las personas y sus efectos negativos sin su conocimiento.

La idea no es nueva en sí misma -el tiempo que la gente pasa en Facebook, Twitter o Instagram es un tema común en la cultura contemporánea- pero la comprensión de Chris es más profunda, y su visión de las consecuencias posteriores es espantosa. Me sorprendió tanto la cena que renuncié como líder del producto unos meses después.

En pocas palabras, he estado obsesionado con la privacidad de los datos durante mucho tiempo. Cuando mi socio Wayne Chang y yo vendimos Cashlytics a Twitter en enero de 2013, nos aseguramos de que los datos que trajimos, cubriendo cientos de millones de teléfonos inteligentes en todo el mundo, estaban claramente aislados y que no teníamos acceso a otros negocios, productos o trabajos de ingeniería, incluida la publicidad. Esto era inusual en ese momento, en marcado contraste con la adquisición de Onavo por parte de Facebook, donde Wayne y yo tomamos las mismas protecciones para los datos de los clientes en Diggis hoy.

Unos meses después de dejar Twitter, en la primavera de 2017, Jeff Orlowski me encontró. Es el director y fotógrafo de las películas de cambio climático Ice-By-Ice Tour y Chasing Coral, ambas que ayudé a producir. (Tenga en cuenta que no soy un productor en el dilema social y no estoy involucrado en el proyecto.) Resulta que Jeff también ha oído hablar del trabajo de Tristan y está ansioso por aprender más sobre lo que ha aprendido.

La esencia del problema se puede destilar en el hecho de que casi todas las redes sociales (entonces y ahora) soportan modelos de negocio basados en la publicidad, lo que potencialmente incentiva un aumento en la cantidad de tiempo que cada usuario pasa en productos para obtener más ingresos. Y la tecnología que utilizan es cada vez más avanzada.

¿Estamos locos?

Fuente: unsplash

En 2017, mientras yo, Tristan y otros amigos del mundo de la tecnología discutíamos más el tema, de repente me di cuenta de lo revelador y controvertido que era, incluso para aquellos que saben mejor cómo funcionan las redes sociales basadas en Internet.

¿Realmente Facebook, YouTube o Twitter jugaron algún papel en el Brexit o en las elecciones estadounidenses de 2016? Zuckerberg ha negado pública y firmemente la posibilidad. Pero en retrospectiva, la respuesta es sí. Sin duda.

Hoy en día, las cosas se están haciendo más claras. Si te preguntas a ti mismo:

· ¿Cómo se polarizó el mundo y se dividió así?

· ¿Cómo trascienden la verdad las mentiras día a día?

· ¿Por qué las teorías conspirativas infundada son tan populares que afectan al público en general y a los principales partidos políticos?

A continuación, eche un vistazo racional a los mecanismos subyacentes del negocio de las redes sociales, y todo es tan obvio y doloroso. En resumen, el caos global actual es un resultado directo y racional de tratar de ganar dinero con la publicidad. Técnicamente, cualquier producto de consumo que combine publicidad, contenido producido por el usuario y aprendizaje automático tiene problemas estructurales potenciales e inevitables.

Pero espera, ¿no es eso salud y seguridad? Es importante hacer una distinción clara entre el dilema social y los esfuerzos básicos, de larga configuración y en curso en salud y seguridad en todas las principales plataformas sociales de la actualidad.

La ciberdelincuencia y el acoso son temas extremadamente serios con consecuencias en el mundo real, y innumerables personas dentro y fuera de la industria tecnológica han arriesgado sus carreras y reputación en la última década para crear conciencia sobre estos problemas y exigir el cambio. Sin reducir estos esfuerzos, lo terrible del dilema social es que no se trata realmente de salud y seguridad, sino de algo más estructural y oculto: el propio modelo de negocio.

Imagínate si todos en Internet fueran amigables y se apoyen unos a otros, ¿no sería genial? Desafortunadamente, las consecuencias devastadoras de un modelo de negocio basado en la publicidad en línea todavía existen. El mundo de hoy se polarizará más, más influenciado por las mentiras, un poco más educado.

¿Qué hace que la publicidad en línea sea diferente?

La publicidad ciertamente no es nueva. Las personas con dinero para gastar y planes promocionales pueden pagar a los espectadores para que vean su mensaje. Este ha sido el caso durante cientos de años. Elijo programas de televisión, revistas y artículos de periódicos, pero no elijo los anuncios que vienen con ellos, y los editores y copatrocinadores determinan el contenido de los anuncios, para bien o para mal.

Históricamente, sin embargo, han sido experiencias pasivas. El contenido se genera, se publica, se consume y, al igual que la publicidad, se cambia: se determina previamente antes de la llegada de los consumidores, y para un gran público, cada consumidor disfruta o sufre la misma experiencia.

La publicidad digital comenzó en la década de 1990 con el mismo marco, con banners en la parte superior y barras laterales de innumerables publicaciones en línea. Por supuesto, es más molesto que imprimir anuncios - dados sus colores elegantes y animaciones GIF ásperas - pero es esencialmente lo mismo.

Fuente: unsplash

Entonces todo cambió. ¿Qué sucede si puedo elegir mostrar mis anuncios en tiempo real? ¿Qué pasa si cambian dependiendo del espectador? ¿Qué pasa si pueden reaccionar a las intenciones de un consumidor en particular en este momento? Los anuncios de búsqueda (obertura, promoción de Google) hacen precisamente eso con palabras clave. De repente, la publicidad se vuelve más relevante y, por supuesto, más eficaz.

En ese momento, a principios de 2000, muchos lo vieron como un paso adelante: ¿Por qué querría ver un anuncio que no me interesaba? ¿La publicidad en última instancia ayudará? Con el auge de las redes sociales a mediados de la década de 2000, este enfoque continuó creciendo. Los anuncios se insertan en función de la información demográfica y de ubicación que se sigue o se divulga en tu perfil.

Esto parece razonable, pero hay una diferencia clave. Con los anuncios de búsqueda, los anuncios que ve son el resultado directo de su propia búsqueda. Decidí buscar conscientemente algo, y luego la página de resultados de búsqueda mostró los anuncios relevantes. Cuantas más búsquedas tengas, más anuncios verás.

Pero a diferencia de la búsqueda, cuando combinas anuncios con otro contenido multimedia, el subconsciente utiliza otra dimensión: el tiempo. ¿Con qué frecuencia abres Facebook, YouTube, Twitter, etc.? ¿20 minutos después del parpadeo de un ojo? No es un accidente, está bien diseñado.

Como cualquier negocio, usted tiene el deber fiduciario de aumentar el valor de los accionistas, que es impulsar los beneficios. Basado en anuncios tiene dos palancas principales a mano:

· Aumente la relevancia de los anuncios que muestra (cuantos más clics tenga, más anunciantes pagarán por los anuncios).

· Aumente sus impresiones de anuncios (cuantas más veces muestre, más anunciantes pagarán por los anuncios).

Desde el principio, la búsqueda de la relevancia fue la fuerza motriz central detrás de la obsesión de la red con la recopilación de datos y el consiguiente movimiento de privacidad en línea. Cuantos más datos tengas sobre mí, más entiendes mis intereses, mis fortalezas, mis debilidades. Sabes lo que deberías mostrarme para que pueda ver algunos videos, hacer clic en algo o comprar algo, no importa lo que los anunciantes quieran que haga.

Fuente: unsplash

De hecho, las empresas basadas en anuncios están vendiendo oportunidades para cambiar el comportamiento de los usuarios. Para ser precisos, la atención y el comportamiento de los usuarios son sus productos. (Es por eso que Wayne y yo nos negamos categóricamente a compartir datos de Cashlytics con Twitter - los desarrolladores de aplicaciones no deben "vender" a sus usuarios sólo para beneficiarse de la funcionalidad de los SDK de terceros.) )

Esta parte de la historia es su propia pesadilla, pero es una pesadilla que las industrias de la tecnología y la publicidad generalmente entienden y aceptan hoy en día, para bien o para mal.

Mejora tu impresión de anuncio de una manera más secreta

Recuerda, ahora eres una red social racional. Hay tres formas principales de impulsar el crecimiento al prestar atención a las impresiones publicitarias:

· Obtén usuarios más rentables (el número total de personas a las que se pueden mostrar anuncios).

· Aumente la carga. (El número de anuncios mostrados a las personas en comparación con el contenido orgánico normal).

· Aumentar el uso (con qué frecuencia y con qué frecuencia cada usuario utiliza el producto para mostrar más anuncios durante su uso).

El crecimiento rentable del usuario a menudo se logra a través de la estrategia virtual y la psicología social. Al facilitar el contacto con nuevas personas ("importar listas de contactos"), notificándoles de las acciones que podrían interesarles ("Estás etiquetado en fotos"), y orquestando bucles de retroalimentación ("Sally y otras cinco personas como tus publicaciones"), las redes sociales se están extendiendo conceptualmente directamente a las comunidades del mundo real ("Hemos encontrado 12 personas que podrías conocer").

La carga de anuncios es simple y fácil de ajustar, pero supera rápidamente un punto de inflexión: a la mayoría de la gente no le gusta ver demasiados anuncios en un corto período de tiempo. Usted puede notar que al final del trimestre fiscal, hay más anuncios en las redes sociales de lo habitual - es fácil conseguir que la gente aumente sus puntos de vista en unos días para asegurarse de que cumplen sus objetivos de ingresos y luego deshacerlos antes de que demasiada gente pueda soportarlo.

Por último, aumentar el uso es similar a impulsar el crecimiento de la base de usuarios. En lugar de centrarse en la introducción de nuevos usuarios, puede ajustar algunas interacciones sociales para facilitar la reactivación de los usuarios existentes. Resulta que mejorar sus impresiones de anuncios puede aumentar el uso sin depender en absoluto de la interacción social.

El impacto de la inteligencia artificial

Fuente: unsplash

Es bien sabido que entre 2013 y 2014, Facebook cambió sus noticias al modo algorítmico, donde la primera vez que ves contenido no es solo el orden en el que se publican los amigos y sus publicaciones, sino que hay otros factores en el trabajo.

A pesar de la amenaza generalizada de "eliminar Facebook", tenía sentido al principio: ¿Realmente quiero ver cada publicación de ese amigo loco de la escuela secundaria? Pasó casi todo su tiempo en la plataforma cuando estaba despierto. (Pero eliminar a un amigo puede ser embarazoso...)

Después de todo, ¿cuál es la diferencia entre un anuncio y un contenido orgánico? Si Facebook puede seleccionar mediante programación los anuncios que ven las personas, ¿por qué los algoritmos de aprendizaje automático no pueden seleccionar mediante programación el contenido generado por el usuario que ven las personas? En teoría, esto podría conducir a una mejor experiencia del producto que el orden cronológico puro. Son muy conscientes de esto.

Pero espera, ¿de qué manera el contenido es "mejor"? ¿A quién es "mejor"? ¿Cómo elegirá el algoritmo mostrar el contenido seleccionado?

Facebook tiene el deber fiduciario de generar impresiones publicitarias (aumentar los ingresos), por lo que este es sin duda un factor importante en sus criterios de selección de contenido algorítmico. Lamentablemente, el cambio ha sido tan efectivo que otras redes sociales no tienen más remedio que emularlo para seguir siendo competitivo.

El uso de las redes sociales (la cantidad de tiempo que pasa cada usuario) ha demostrado estar muy influenciado no sólo por las interacciones sociales o los anuncios que ven, sino también por el contenido orgánico generado por el usuario que ven, y el orden en que se ven.

Por primera vez en la historia, las plataformas multimedia pueden especificar el contenido en un orden personal, que es la forma más probable de retener a los clientes en el producto, lo que significa que la persona puede desplazarse hacia abajo más y ver más anuncios. Los algoritmos avanzados de la máquina son fáciles de entender: proporcione al algoritmo un estado de destino (por ejemplo, impulsar los ingresos por anuncios) que optimizan objetivamente.

El terrible y lucrativo descubrimiento de Facebook

Fuente: unsplash

Lamentablemente, la última pieza de este enigma es la naturaleza humana. Queremos un sentido de pertenencia, y como seres humanos, tendemos a no gustar las cosas con las que no estamos de acuerdo. Queremos formar parte de una comunidad de intereses compartidos. Queremos que nos digan que tenemos razón, que no estamos locos, y hay muchos otros como nosotros. Si vemos algo que contradice nuestro punto de vista, tenemos la mentalidad de luchar o huir. A continuación, cierre la aplicación.

También tenemos un deseo sin fin de cosas nuevas y farsas. Estamos dispuestos a expresar conmoción, despertar, fascinación, ira o felicidad por estas cosas, pero siempre queremos ser consistentes con nuestras creencias existentes.

Polarizar con fines de lucro

Unos años más tarde, cuando el Brexit y las elecciones de 2016 estaban en el punto de mira, los algoritmos de aprendizaje automático de Facebook tenían algunos "descubrimientos" importantes:

· En general, es más probable que las personas encuentren y consuman contenido que aprueben.

· Es más probable que toquen y compartan contenido indignado en ciertas áreas.

· Y, una vez provocadas e involucradas, las personas son más propensas a continuar por el mismo camino para obtener más contenido.

Esto permite a Facebook mostrar más y más anuncios dirigidos que nunca. Lograron el santo grial de la publicidad: emparejar con precisión el contenido y los anuncios de los clientes a nivel mundial. El resultado final es que las redes sociales están dividiendo rápidamente el mundo en nombre de los ingresos publicitarios puros.

Todo lo que veo está especialmente seleccionado y conserva mi contenido. Permítanme seguir desplazándome. Déjame seguir llamando. Déjame ver los anuncios todo el tiempo. Porque casi siempre me gusta algo, o interesante, o escandaloso- algoritmos ya lo saben.

Así que el resultado es claro: las principales plataformas tecnológicas de consumo, no sólo en los Estados Unidos, sino a nivel mundial, ahora tienen un deber fiduciario implícito de reforzar mi punto de vista actual, lo que sólo me hará (y otros) más dogo escuela y radical a mi manera, no importa en qué tema esté el contenido, o en qué dirección prefiero. Me volví polarizado y radical, pero sólo para su beneficio.

influencia del mundo real

No es sólo la teoría o la hipérbole lo que afecta a miles de millones de personas todos los días:

· La ciencia demuestra que el hecho del calentamiento global es indiscutible, pero una gran parte del planeta no lo cree, lo que dificulta los cambios regulatorios y normativos tan necesarios.

· La teoría de la conspiración de pizzagate sin fundamento "fue compartida alrededor de 1,4 millones de veces en más de 250.000 cuentas en las primeras cinco semanas de su vida" y llevó a un pistolero a atacar una pizzería en el área de Columbia.

· Durante años, el gobierno birmano ha utilizado sistemáticamente las redes sociales para incitar al odio contra la minoría rohingya, tanto que el genocidio es aceptado por la mayoría de la población.

· Se ha descubierto que gobiernos y grupos políticos de México, Brasil y otros 70 países han difundido deliberadamente información falsa a sus ciudadanos a través de las redes sociales.

· Los políticos estadounidenses prominentes a menudo difunden mentiras atroz y desvergonzadas, sabiendo que se extendieron rápidamente entre su base de fans, y que pocos se toman el tiempo para verificar su autenticidad. Las investigaciones muestran que las mentiras se propagan seis veces más rápido que los hechos.

Las plataformas de medios nunca han sido tan agitadoras para la propagación de la ira y la información falsa, ¿qué podemos hacer?

Tome una posición

Al igual que las tragedias de la mayoría de la gente común, es difícil hacer una diferencia solo. Incluso mantener la influencia en Twitter es inútil - el problema es el modelo de negocio en sí, no su ejecución. Una buena ejecución para alcanzar los objetivos de negocio es la razón número uno por qué Facebook ha caído.

Esto se ha convertido en una trampa: los modelos de negocio alternativos, como la carga por suscripción o por el tamaño del fan/audiencia, casi con seguridad conducirán a una caída significativa de los ingresos totales. Estos algoritmos extraen más por usuario de los anunciantes que la disposición del usuario promedio (o la capacidad de pago).

En un mercado capitalista competitivo, no hay un camino claro para que las personas se pongan de pie: las empresas que logran sacudir son inmediatamente superadas por competidores menos de principios y se enfrentan a protestas de algunos accionistas.

Pero actuando juntos, podemos marcar la diferencia. Al igual que en muchas otras industrias, esto ha llegado al punto en que no tenemos más remedio que forzar a estas plataformas de tecnología de consumo basadas en anuncios a internalizar su externalidad negativa. La buena noticia es que mis amigos técnicos ya no están en disputa, y hay un montón de personas inteligentes por ahí que están estudiando estos problemas y explorando soluciones.

Fuente: unsplash

En contraste con mis discusiones de 2017, muchos de los ingenieros, gerentes de productos y ejecutivos técnicos con los que hablé durante el último año ahora entienden y están de acuerdo en los mecanismos que impulsan este proceso. Pero aún no saben qué hacer, así que hablemos de ello.

· ¿Debe haber un límite a la cantidad y el tipo de datos personales que se pueden recopilar y almacenar en productos de consumo?

· ¿Debe haber un límite al número máximo de anuncios que se pueden mostrar a las personas durante un período de tiempo determinado y en un intervalo de tiempo determinado, lo que sea más largo? (Asegúrese de restaurar el control de cada uno en su propio tiempo)

· ¿Los anuncios personalizados deben ser completamente legales? (Al conducir por la carretera, veremos las mismas vallas publicitarias, y hay una conversación sobre ellos.) Pero nadie sabe lo que otras personas ven en línea - ¿cómo se puede sentir de la misma manera? )

Esto es sólo el principio, los algoritmos de aprendizaje automático son implacables en su búsqueda del estado objetivo, y esta no es la última habilidad psicológica que encontrarán - tenemos que estar listos para el siguiente.

Como señala Tristan, no tenemos que preocuparnos de que los robots "se apoderen del mundo" algún día, tenemos que preocuparnos de que un día las máquinas superen las deficiencias humanas y manipulen nuestro comportamiento para lograr sus propios objetivos.

Haga clic en la imagen de arriba para ver el plan de estudios y los detalles del libro

喜欢此内容的人还喜欢

Dilema social: Los algoritmos capturan las debilidades humanas...

enviado a echar un vistazo

Related articles to this post