¿Cómo destruye un algoritmo a una persona paso a paso?
Los siguientes artículos son del Nuevo Libro de Finanzas El autor Ray se ralentiza
Libro recto la grandeza y la nihilidad del nuevo imperio financiero
Wen/Ray es lento
Fuente: FintechBook
Las empresas de tecnología de Internet como Facebook, Google (YouTube, Google Search) y Twitter utilizan algoritmos para atraer diseños de productos adictivos con fines comerciales. Esto se ha convertido en "una amenaza importante para la existencia humana".
Pensó en la confrontación. De hecho, durante el mandato de Tristan Harris en Google, Google tenía una conocida regla de "no maldad". Pero este criterio no impide que el algoritmo se mueva en el sesgo basado en intereses comerciales.
Dos años después de dejar el cargo, Tristan Harris, que se ha retirado o trabajado como experto en tecnología en grandes empresas como Facebook y Google, creó un grupo llamado center for humane technology, que se creó en 2018 para contrarrestar la teoría del diseño adictivo de las empresas de Internet de Silicon Valley.
Además de Tristan Harris, que trabajó en el centro, hay ex gerentes de operaciones de Facebook; Lynn Fox, una ex ejecutiva de comunicaciones en Apple y Google; Dave Morin, un ex ejecutivo de Facebook; y Roger McNamee, un inversor temprano en Facebook.
Antes y después de 2017, muchos ejecutivos de Silicon Valley, sintiendo la plataforma algorítmica de Internet, tuvieron una crisis moral y ética y abandonaron sus empresas.
En 2020, Netflix está filmando un documental llamado Watch Capitalism: Smart Traps. En la película, Tim Kkendall, ex gerente general de Pinterest y ex director de ganancias de Facebook, dice que le preocupa que un mundo de manipulación algorítmica eventualmente podría conducir a la Guerra Civil Americana; un ingeniero de Google, preocupado por la decadencia moral de toda la industria de Internet.
Años después de que Chris Hughes, quien fundó Facebook con Mark Zuckerberg, criticó a Facebook, diciendo: "Zuckerberg es un buen hombre".
Pero lo que me enoja es que su enfoque en el crecimiento le ha llevado a sacrificar la seguridad y la línea de fondo moral por los clics".
¿Qué causa preocupaciones tan graves y cuál es el problema?
En 2018, el CEO de Twitter Jack Dorsey dijo a una audiencia que cuando comenzó Twitter hace 12 años, no esperaba que fuera lo que es hoy...
Este pasaje coincide con el segundo episodio de la quinta temporada de Black Mirror, que también pasa a ser filmado por Netflix.
El hombre, Chris Gillhaney, murió en la escena después de ver mensajes sociales en su teléfono móvil mientras conducía con su novia. Cuando se recuperó, trabajó como conductor similar a UBER, recogiendo clientes abajo todos los días en el sitio de redes sociales llamado Shard.
Finalmente, un día, recibió a un empleado de la compañía, lo secuestró, al mantener al empleado como rehén, capa por capa, y "fragmentación" CEO de la compañía para contestar el teléfono, y sólo quería decirle al CEO cómo el sitio de redes sociales secuestrado la vida de las personas llevó a varias tragedias.
La respuesta del CEO fue similar a la del CEO de Twitter: Cuando empecé la empresa, no esperaba que fuera así.
El CEO de Shard establece una lógica:
Después de moldear un producto, su tendencia ya no es que pueda decidir, cada actualización y mejora funcional, es porque al usuario le gusta, quiere obtener los resultados, esto no es necesariamente lo que un CEO quiere.
Hacer que los usuarios sean adictos se ha convertido en la búsqueda de casi todas las aplicaciones sociales.
Vea el capitalismo: Smart Trap entrevista a muchos ex ejecutivos e inversores de empresas tecnológicas de Silicon Valley.
Tristan, un ex diseñador ético de Google, dijo que cuando estaba haciendo diseño de buzones en Google, se dio cuenta de que nunca había habido una decisión de un diseñador de ingeniería californiano de 50 a 35 años en la historia que pudiera afectar a 2 mil millones de personas e influir en ellas para que tomaran ideas o decisiones que nunca esperaban.
Cuando un usuario se despierta por la mañana, Google Mail le dice que debe trabajar así.
El significado del trabajo, la cultura y la vida proviene de una manipulación fantasmal de terceros. Y nadie dentro de Google quiere hacer buzones menos adictivos.
Luego hizo un llamamiento: Los ingenieros tenemos la responsabilidad moral de mirar y discutir la adicción.
Después de que Tristan hizo esta apelación, muchos ingenieros estuvieron de acuerdo, y entonces no había más...
Roger McNamee, uno de los primeros inversores en Facebook, dice que en los primeros 50 años de Silicon Valley, IBM, Google e Intel hicieron productos de software o hardware para vender a los clientes, y el modelo de negocio era simple y bueno. Pero las empresas más grandes de Silicon Valley han estado "vendiendo clientes" durante la última década.
Antes de la era de Internet, la gente inventó cosas que servían a las masas, bicicletas, coches, calculadoras, eran herramientas simples y neutrales.
Cuando surgió la era de Internet, la tecnología evolucionó lentamente hasta convertirse en una herramienta para solicitar, atraer e incluso manipular y beneficiarse de los seres humanos, y ha pasado de ser un entorno tecnológico artificialmente activo a un entorno tecnológico adictivo y manipulador.
Las redes sociales ya no se trata de esperar en un almacén para que alguien monte en bicicleta, o un coche, sino de aprender, analizar, manipular y adicto.
Los ejecutivos de las grandes empresas de Silicon Valley desconfían de temas como los hijos de Bill Gates y Steve Jobs, a quienes se les pidió que estuvieran completamente aislados de la electrónica cuando eran niños.
Eso es exactamente lo que dijo un artículo del New York Times 2018, "Los expertos en tecnología saben cómo son realmente los teléfonos celulares, por lo que muchos de ellos deciden mantener a sus hijos alejados de estas cosas". "
Lei ha dicho que Internet es una sociedad de alimentación. Esta alimentación se lleva a las personas después del análisis de big data y las decisiones de aprendizaje automático.
Esto es también Marx, Freud y otros sobre la "alienación" de un punto de vista, las personas como objetos aceptan pasivamente la experiencia del mundo y de sí mismos; Es como si un algoritmo del sistema anulara a un mensajero para llevar. Las líneas de máquina son tan buenas como los trabajadores.
03
Si no gasta dinero en productos
Entonces usted es el producto que se vende
Las empresas de Internet ahora ofrecen una gran cantidad de productos gratuitos, FaceBook, WeChat, Shake It Off, Twitter, y nadie paga por los productos sociales que utilizan.
Son los anunciantes los que pagan por estas aplicaciones sociales, los anunciantes son los clientes de las aplicaciones sociales y los usuarios se convierten en los productos que se venden. Hay un fenómeno: si no gastas dinero en un producto, lo estás vendiendo.
Así que el modelo de negocio para empresas como FaceBook y Twitter es cómo sacar el máximo provecho de su adicción, pasar más tiempo en estas aplicaciones, y pasar el tiempo de su vida.
¿Cuánto vale la vida?
En los negocios, FaceBook y Twitter necesitan dar certidumbre a los clientes para vender más anuncios, dice Shoshana Zuboff, profesora de Harvard Business School.
Así que los comerciales venden certidumbre, que proviene del "análisis de datos" detrás de la adicción de los usuarios.
Este es el núcleo del título del documental: vigilancia del capitalismo.
Para obtener los datos, estas empresas necesitan monitorear cada lugar de los versículos de un usuario, cada preferencia, cada dato de comportamiento, seguimiento ilimitado, análisis, evaluación y rentabilidad ilimitada.
¿Te gusta ver videos de la NBA? De acuerdo, pondré un anuncio para un zapato de baloncesto para ti antes de que veas el siguiente video de su clase.
Los datos no necesitan ser atendidos, y las máquinas pueden aprender automáticamente profundamente y dar una vista previa, por lo que el CEO de Twitter dice que estos productos son lo que no esperaban en primer lugar.
Pero lo que hacen los ejecutivos, los modelos que predicen la trayectoria de comportamiento de las personas son lo que hacen, y el código del programa que pueden aprender automáticamente es escrito por ellos.
Se trata de la certeza: vender usuarios a los anunciantes con la mayor éxito posible.
Shoshana Zuboff llama a este mercado el mercado de futuros humanos más grande que nunca se ha visto antes. Solíamos comerciar futuros de cerdo, futuros de diamantes, y ahora los humanos son futuros.
La consecuencia de la adicción es empujar las partes que no esperabas, empujarlas con algoritmos, hacerlas parte de tu mente y hacerte sentir como si estuvieras pensando en ello.
Ejecutivos de empresas como FaceBook y UBER han enseñado a la Universidad de Stanford cómo usar la tecnología para persuadir a los usuarios. Este tipo de comportamiento se llama "el arte de la persuasión".
Este es un acto extremadamente deliberado que diseña el comportamiento de las personas. Cada actualización desplegable o pull-up del usuario es una re-push del algoritmo. Se adentran en la cabeza e implantan un hábito inconsciente que permite programar la cabeza más profundamente.
FaceBook ha llevado a cabo un "experimento en expansión a escala masiva" que utilizó señales subconscientes en FaceBook para conseguir que más personas voten en las elecciones de mitad de período de Estados Unidos.
Este efecto no desencadena la conciencia del usuario, pero es un subconsciente, lo que significa que el usuario no es consciente de ello en absoluto.
Google y FaceBook hacen muchos experimentos cada año con usuarios, que son ratones de laboratorio.
Los análisis de big data adictos a las adicciones y el empuje y el movimiento algorítmicos han convertido a los jóvenes de la Generación Z en los Estados Unidos víctimas.
Según Jonathan Haidt, psicólogo de la Universidad de Nueva York, ha habido un fuerte aumento en el número de adolescentes hospitalizadas cada año por cortes de muñeca autolesionantes desde alrededor de 2011 y alrededor de 2013.
Captura de pantalla documental: Durante casi 20 años, cada año en los Estados Unidos, las niñas se autolesionan y se suicidan debido a la adicción al teléfono móvil
Un fenómeno común es que cuando las personas están solas y ociosas, siempre buscan algo que hacer. Ahora que esta brecha está dominada por empujones algorítmicos de redes sociales, videos cortos, etc., la capacidad de las personas para procesar emociones se degrada.
Cathy O'Neil es una científica de big data. Los algoritmos, dice, están incrustados en el código, y no son objetivos. Los algoritmos son guiados y optimizados por modelos de negocio exitosos.
A menudo, en una empresa como FaceBook, que afecta a miles de millones de personas, sólo unas pocas personas que entienden la lógica del trabajo de algoritmo de un programa pueden ser vistos como la pérdida del control del sistema algorítmico en comparación con más de 7 mil millones de seres humanos.
Roger McNamee dice que es como un mundo de 2.700 millones de personas, y cada uno tiene su propio mundo. Nadie encuentra la verdad sobre la naturaleza del mundo en el que se encuentran. De hecho, por supuesto, puede haber más personas viviendo en el "Mundo de Chumen". En China, productos similares tienen los titulares de hoy, el sonido tembloroso y así sucesivamente.
Cada empuje del algoritmo representa un interés comercial.
En China, a los ancianos y de mediana edad les gusta ver algo de propaganda, incitación a los videos falsos de noticias, no es que los productores deben creer estas cosas, pero las noticias falsas se propagan más rápido que las noticias reales, el tráfico puede traerles dinero comercial, libre para ver a la gente de video, es la mercancía vendida.
Tristan Harris inventó un conjunto de teorías:
La primera etapa de la tecnología más allá de la humanidad está más allá de la debilidad, el resultado es la adicción, la adicción alimentará la ira, alimentará la vanidad, suprimirá la naturaleza humana, la naturaleza morepa. El segundo punto es trascender la inteligencia humana.
Los mundos alimentados por algoritmos son propensos a contradicciones acaloradas, y las opiniones de todos son cada vez más incompatibles, porque todos aprenden sobre la información de diferentes empujones, y esa información y conocimiento varían de push a push.
Cuando dos estadounidenses marchan por las calles al mismo tiempo debido a la defensa del mismo sitio de redes sociales discuten sobre lo mismo, es fácil ver: Oh, no vimos el mismo mensaje.
Un ejemplo bien conocido de esta división acalorada es la teoría de "la tierra es plana", que se ha recomendado cientos de millones de veces en YouTube porque a algunas personas les gusta, los algoritmos están cambiando cada día para empujar a la gente "la tierra es plana" contenido, "la tierra es redonda" es su conspiración, y más y más personas creen que esta teoría de la conspiración.
El punto culminante del incidente fue en febrero, cuando el inventor estadounidense Michael Hughes cayó a su muerte después de probar un lanzamiento usando un cohete tripulado casero para probar que la tierra estaba plana.
05
Es hora de que pensemos en ello también.
Los algoritmos sólo recomiendan cosas de interés a la gente, no tiene sentido de la moralidad, su única motivación son los intereses empresariales, puede empujar repetidamente a la gente falsa, información de teoría de la conspiración.
Hoy puede hacer creer a la gente que la tierra es plana, mañana puede hacer creer a la gente que beber desinfectante puede matar el nuevo coronavirus.
En 2016, miles de personas en los Estados Unidos creyeron en las noticias falsas, una organización criminal molesta infantil clandestina que involucra a los principales demócratas escondidos en una pizzería de Washington.
Algoritmos en este asunto ferment, constantemente recomendamos a la gente para unirse al grupo "puerta de pizza", hasta que más y más personas creen que realmente existe.
El clímax del incidente terminó cuando un hombre armado con un arma trató de entrar en un almacén de pizzerías para rescatar al "niño perseguido" y fue arrestado por la policía a mitad de camino.
En los Estados Unidos, los rumores durante el brote, alimentados por algoritmos, exacerbaron la propagación de rumores e individualismo. La gente marchaba por las calles, algunos gritaban "La nueva vacuna de la corona es una conspiración" y otros gritando "el gen humano no es adecuado para la nueva vacuna de la corona".
Todos están obsesionados con lo que ven. Un funcionario del gobierno lo llamó: tribalismo en la nueva era.
Las diferencias políticas entre demócratas y republicanos alcanzaron un máximo de 20 años en 2017, según un Pew Research Center 2017.
En Myanmar, ha habido una retórica inflamatoria sin precedentes y cargada emocionalmente en FaceBook desde 2017, que ha sido constantemente empujada a los ultranacionalistas que les gusta verla, generando delitos graves, persecución racista y llevando a la fuga de 700.000 MSL rohingyas del país.
Jared Diamond, autor de Crash, explica cómo la sociedad se derrumba: una sociedad que juntos impulsa un estado inestable y negativo hacia adelante, y finalmente conduce a su colapso.
Los estudiantes de Jared Diamond le hicieron una pregunta muy interesante:
¿Cuál fue el momento en que el hombre que taló el último árbol en la Isla de Pascua en el siglo XVII, antes de que el entorno ecológico de la isla colapsara?
Es hora de que lo pensemos también.
Perfil del autor: Ray Slow, Fuente: FintechBook Outlet Academy está autorizada para reproducir, reimprimir por favor póngase en contacto con el autor original.
Lectura relacionada:
Abogar por la lectura racional, un paso más cerca del Emperador de los Estados Unidos
Publicaciones: usashare@hotmail.com
Si te gusta este artículo, ordena "Ver" para compartirlo
Ir a "Descubrimiento" - "Echa un vistazo" navegar "Amigos están viendo"