Original: Tech Fox

Fuente de la imagen: Generada por Unbounded AI

Después del nacimiento de ChatGPT, las discusiones sobre IA nunca se detuvieron.

A fines de mayo de este año, más de 370 profesionales de IA firmaron conjuntamente una carta abierta, que instantáneamente detonó el círculo tecnológico global.

Esta "Declaración de riesgo de IA" advierte que la inteligencia artificial puede traer desastres a la humanidad como una guerra nuclear, y el mundo entero debe actuar para reducir el riesgo de extinción de la inteligencia artificial.

No solo lea el contenido en una oración, sino que ha recibido el apoyo de muchos líderes de la industria, incluido el fundador de OpenAI, la principal empresa de IA, y ejecutivos de los gigantes tecnológicos veteranos Microsoft y Google.

Todavía recuerdo que en marzo de este año, Musk también se unió a más de mil expertos y pidió una moratoria en la investigación y el desarrollo de IA durante al menos 6 meses.

Hoy en día, parece que incluso el fundador de OpenAI siente que si la IA continúa desarrollándose, ¿realmente derrocará a los humanos?

Bajo la tendencia global de la IA, las fábricas grandes y pequeñas están uniendo fuerzas para participar en la inteligencia artificial. Esta pesada carta abierta es como un golpe en la cabeza.

¿Será que, con el tiempo, no será un virus repentino, ni una lluvia de balas, sino una inteligencia artificial creada por seres humanos que destruirá seres humanos?

La IA está contaminando la base de conocimientos

No hablemos de eso, solo hablemos de Zhihu, que Fox Girl visita a menudo.

Si haces preguntas en Zhihu con devoción, es posible que obtengas un montón de respuestas falsas fabricadas por la IA Sin saberlo, la IA está contaminando locamente la base de conocimientos.

Tome a este usuario de Zhihu llamado "Various Life" como ejemplo. Su tono es como un robot sin emociones. Puede resolver un problema en aproximadamente uno o dos minutos y leerlo con su nariz, que no es para nada humana.

No hay duda de que él no es real en absoluto.

Esta cuenta de IA ingresó una gran cantidad de información no verificada en la Internet china y engañó a Bing AI, de modo que Bing dio respuestas incorrectas.

Aunque ha sido prohibido en la actualidad, todavía hay muchas cuentas como Zhihu. Y Baijiahao, Toutiaohao, Xiaohongshu y otras plataformas de contenido no se salvaron, y todas cayeron.

AI se basa en una poderosa base de datos para mejorar la eficiencia de escritura, pero al mismo tiempo, también se ha convertido en un productor de basura en Internet chino.

Solo medio año después del nacimiento de ChatGPT, la gente tiene que enfrentarse a expresiones estereotipadas y una gran cantidad de contenido de baja calidad está inundando Internet. Cuando los usuarios buscan información, incluso después de pasar algunas páginas de anuncios, todo lo que ven son tonterías familiares.

Si la IA recibe solo datos basura falsos, creará algo peor que basura.

Apesta desde cero, entonces, ¿cómo puede esperar que genere información creativa y valiosa? Sólo se puede caer en un círculo vicioso.

Brote completo de fraude AI

Hoy en día, es tan pequeño como engañar a las celebridades por entretenimiento propio y tan grande como causar pánico social. Bajo la dirección de AI, en todo el mundo se ha vuelto difícil distinguir entre lo verdadero y lo falso.

Eventos mágicos como el arresto de Trump ocurren casi todos los días.

Estos memes son realmente interesantes y no pueden evitar hacer reír a la gente. Pero después de reírse, surge una preocupación inexplicable: la era del "hay fotos y la verdad" ha terminado silenciosamente.

Algunos expertos predicen que el abuso de la tecnología de IA puede producir todo tipo de noticias falsas en el futuro, e incluso provocar un pánico social innecesario, y este día ya ha llegado.

Anteriormente, la noticia de que "un tren en Gansu se estrelló contra trabajadores de reparación de vías férreas, matando a 9 personas" se volvió viral en Internet.

Un título tan impactante ha despertado discusiones entre los internautas. No mucho después, la policía de Gansu envió a la policía y descubrió que la noticia era falsa y que era completamente una apariencia de tráfico de blogs.

El sospechoso recopiló noticias importantes en los últimos años, luego usó ChatGPT para dividirlo y reescribirlo, y lo publicó en 21 cuentas en lotes.

Es fácil evitar el control de plagio y la censura de la plataforma, e inventar una noticia social sensacional. Además, esta noticia falsa puede seguir publicándose con otro nombre de lugar, si la persona no hubiera sido detenida, no sé hasta dónde se extenderá el daño.

Hoy, cambiar caras con IA falsa se ha convertido en un nuevo truco para muchos estafadores.

Solo cuesta 35.000 yuanes comprar en línea un conjunto de modelos de cambio de cara en tiempo real de IA. Muchos estudios de transmisión en vivo de comercio electrónico utilizan Star AI para cambiar las caras para la transmisión en vivo sin permiso.

Especialmente con la madurez de la tecnología de síntesis vocal, los mentirosos se sienten más a gusto en su trabajo.

El modelo actual de IA está simplemente "bien". Tan pronto como la IA Stefanie Sun hizo su debut, mucha gente bromeó diciendo que la cantante Stefanie Sun perdería su trabajo. Incluso los viejos fanáticos que lo han escuchado durante muchos años comenzaron a dudar de la vida. ¿Realmente no soy yo?

Frente a la tecnología como "Monkey King", ¿quién puede garantizar tener "ojos dorados"? Los estafadores se aprovechan de esto para delinquir.

En abril de este año, el Sr. Guo, propietario de una empresa en Fuzhou, fue defraudado por 4,3 millones de yuanes.

Los delincuentes usaron tecnología de onomatopeyas y cambio de caras de IA para hacerse pasar por amigos del Sr. Guo e hicieron videos de WeChat para ganarse la confianza. La cara y la voz son correctas, y la mayoría de las personas realmente no pueden notar la diferencia. El Sr. Guo solo descubrió que fue engañado después de transferir el dinero.

Aunque la policía ha trabajado arduamente para recuperar la mayor parte del dinero, los delincuentes recibieron $930,000.

Lo que más temo es que los ancianos de la familia sean engañados por esto, tienen poco sentido de discriminación y poca resistencia psicológica, lo que fácilmente puede conducir a tragedias irreparables.

Hay un caso tan real en la serie de televisión "El libro ilustrado de los crímenes de caza".

Los delincuentes utilizaron la tecnología de cambio de rostro de IA para hacer un video del hijo del anciano pidiendo ayuda. El anciano fue engañado para arruinar a su familia y su propiedad, y finalmente se suicidó porque no pudo soportarlo.

## Cambiando caras y desnudándose para hacer rumores pornográficos

La tecnología de intercambio de rostros de IA ha superado gradualmente los límites legales y éticos. No solo defrauda en línea, sino que también crea rumores pornográficos para las mujeres en todo momento.

En la sección de "IA que cambia la cara" de muchos sitios web pornográficos, los protagonistas se han convertido en estrellas femeninas populares.

No solo las figuras públicas lo padecen, la gente común también es difícil de escapar.

Una estudiante universitaria en Guangdong lloró en Internet: 540.000 personas de repente vieron mis fotos desnuda. Incluso fue insultada como una "perra de la Universidad Sun Yat-sen".

De la noche a la mañana, sus cuentas de WeChat y Weibo explotaron, y todo tipo de extraños vinieron a agregar amigos, y muchos de ellos dijeron que habían visto sus fotos desnuda y que querían "hacerse amigos" de ella.

Y el instigador resultó ser cierto pretendiente de su secundaria, quien fue rechazado cuando se lo confesó al principio, y si no lo conseguía, simplemente lo arruinaba.

A pesar de que aclaró la verdad una y otra vez, e incluso envió al traficante de rumores a la estación de policía, algunas personas todavía decían, no sé si es exageración.

Hay una línea en la película "Keep You Safe": cuando dices que una chica es una dama, no importa si lo es o no, ya lo es.

No creas que esto se abre paso fuera de línea, la función de desvestirse con un solo clic de AI es aún más frenética.

Solo toma 30 segundos quitar toda la ropa de la foto. Además, el gráfico de comparación generado puede tener gráficos reales.

Anteriormente, las imágenes de fotos de mujeres desnudas en la Línea 3 en Guangzhou se volvieron virales en Internet, y los registros de chat decían: "Hay una mujer hermosa en la Línea 3, se quitó la ropa".

Sin embargo, esta imagen que parece que realmente sucedió resultó ser que algunas personas miserables usaron la función de "desnudarse con un clic" de AI para desnudar maliciosamente a la niña.

De hecho, en la foto original, la niña estaba bien vestida y no ofendió a nadie en absoluto.

Esto creó una seria sombra psicológica para la chica zorro que a menudo toma la Línea 3.

。

En la vida real, muchas chicas se encuentran con este tipo de cosas. No saben cómo probarlo, por lo que solo pueden ser tontas y comer coptis, ¡y no pueden notar el dolor!

En la película "Let the Bullets Fly", el sexto niño fue incriminado por comer dos tazones de mermelada, pero solo le pagaron por un tazón. No podía discutir con nada, por lo que solo podía abrirse el estómago para probarse a sí mismo, pero en ese momento, a quién le importaba realmente el resultado.

Si esto continúa sin control, la IA está destinada a evolucionar hasta el punto de la anarquía. No puede creer las imágenes, no puede creer las voces de los miembros de su familia, y ahora incluso las llamadas telefónicas y los videos deben revisarse repetidamente para ver si son reales, e incluso si publica una foto, todavía tiene que preocuparse de que le mientan.

En el pasado, todos tenían miedo del falso mundo de Truman, pero ahora todos son los protagonistas.

***AI todavía necesita desarrollar? ***

Dado que los efectos negativos de la IA son tan grandes, como dicen los expertos, puede exterminar a los seres humanos si juegas demasiado sin prestar atención, ¿es necesario seguir desarrollándose?

No se preocupe, la "Declaración de riesgo de IA" puede tener motivos ocultos. ¿Por qué los capitalistas de repente se dieron cuenta de su conciencia y comenzaron a preocuparse por la seguridad de toda la humanidad? Esto en sí mismo es muy sospechoso.

El fundador de OpenAI dijo que esto es algo que amenaza la seguridad de toda la humanidad, pero de hecho él es quien más trabaja.

En mayo, abrió sucesivamente complementos y aplicaciones móviles para su propio GPT, lo que no solo liberó las limitaciones de la IA, sino que también amplió el alcance del uso del usuario.

Después de algunas operaciones, el volumen de descarga de la versión iOS de GPT ya superó el millón y el servicio de pago por suscripción superó los 300 000 dólares estadounidenses.

Lo mismo es cierto para Musk, que pide a otros que se detengan rápidamente y se cuiden de los seres humanos y de la IA, pero nunca ha dejado de invertir en IA. El 9 de marzo de este año se estableció una empresa llamada X.AI.

El robot de Tesla, Tesla Bot, fue lanzado el año pasado.

Si, como dicen, la IA da tanto miedo como las epidemias y las guerras nucleares, ¿por qué tienen que arriesgar sus vidas para estar en primera línea?

Si crees que es arriesgado, entonces no lo hagas.

Obviamente no.

Esto no puede evitar recordarme la famosa "amistad de Pan Ga". Pan Zi hizo todo lo posible para persuadir a Ga Zi de que Internet es demasiado profundo para que lo entiendas. De hecho, el subtexto interno es: déjame este asunto en paz.

Eso sí, además de no querer que los competidores se pongan al día, y que se repartan más tartas. Este tema también es una buena herramienta de marketing. Las teorías de la conspiración siempre han sido el foco de atención de todos, es difícil no llamar la atención sobre una tecnología que puede destruir el mundo.

Además, algo que se suponía que destruiría el mundo al principio se convirtió en un proyecto que al final beneficia a la humanidad. En ese momento, los usuarios no pueden evitar sentir que esta empresa es tan grande y tiene una gran conciencia.

Por lo tanto, para AI, si otros no se detienen, no debemos detenernos a menos que nuestras empresas chinas lo controlen.

Además, nunca es la IA la que destruye a los seres humanos, sino los propios seres humanos.

¿Por qué no pensarlo al revés, quién está creando la IA? ¿Y quién está abusando de esta tecnología? En el análisis final, es culpa de los seres humanos.

Siempre estamos hablando de la inocencia de la tecnología, pero frente a la humanidad y el dinero, la IA es como una espada de Damocles colgando sobre la cabeza.

Para desatar la campana hay que atarla, como es inteligencia artificial, inteligencia artificial e inteligencia deben ir de la mano. Pero desafortunadamente, muchas veces, en el juego entre la inteligencia artificial y la IA, la inteligencia artificial ha caído en desventaja.

Pero ahora, la IA produce demasiada basura de contenido y traerá más y más problemas. Es hora de aumentar la efectividad de combate de los humanos, aumentar la supervisión y mejorar las leyes y regulaciones relevantes, lo cual es inminente.

Es posible que el juego entre la IA y los humanos no haya hecho más que empezar.

Fox girl siente que pase lo que pase, la inteligencia artificial es la tendencia general. Hemos entrado en esta nueva era con la frente en alto y no hay salida. La mejor manera es crear un mundo armonioso donde la IA coexista benignamente.