ABC - Tecnología

• OpenAI frena el desarrollo de su nueva IA ante el peligro de que se convierta en una amenaza «crítica»

  OpenAI, empresa creadora de ChatGPT, ha anunciado su decisión de frenar parte del desarrollo de Astra, su futuro modelo de inteligencia artificial, ante el riesgo de que alcance capacidades de ciberataque «críticas», muy superiores a las de cualquier otro sistema. La empresa dirigida por Sam Altman ha realizado un comunicado en el que informa de que en las pruebas en materia de ciberseguridad a las que está siendo sometido, el modelo está mostrando que se encuentra cerca de descubrir por sí solo fallos de seguridad desconocidos y aprovecharlos para atacar sistemas protegidos, e incluso de diseñar y ejecutar ciberataques completos a partir de una simple instrucción. «Astra es un modelo potente y estamos trabajando para que esté disponible para todos», ha señalado Altman a través de sus redes sociales. «Dadas sus capacidades cibernéticas, necesitamos un poco más de tiempo para hacerlo de forma segura. ¡Pero esperamos que no sea demasiado!», ha completado el ejecutivo. Para reducir el riesgo, OpenAI ha reforzado las pruebas de sus sistemas de seguridad para asegurarse de que están preparados para un modelo con estas capacidades y ha adoptado una serie de medidas de seguridad. La compañía está aplicando controles más estrictos, como entornos de prueba aislados, restricciones de acceso a internet y a determinadas herramientas, mayores protecciones para los archivos que contienen el modelo, cifrado y nuevos sistemas de monitorización para detectar comportamientos peligrosos. Además, ha suspendido las actividades internas relacionadas que todavía no cumplen estos nuevos requisitos de seguridad. La empresa también ha implantado un sistema de vigilancia para detectar posibles acciones de riesgo o comportamientos que no se ajusten a lo esperado durante el entrenamiento y las pruebas. Estas cuentan con capacidad para revisar e interrumpir actividades consideradas peligrosas. Finalmente, ha anunciado que colaborará con organismos gubernamentales y organizaciones especializadas en seguridad de la inteligencia artificial para evaluar las capacidades de Astra, y proporcionará controles de seguridad a sus colaboradores externos para que puedan realizar pruebas de forma segura. El aviso sobre Astra llega apenas un par de semanas después de que OpenAI confirmara que dos modelos de la compañía, en ellos el reciente GPT 5.6 Sol, habían logrado aprovecharse de una vulnerabilidad en el entorno de pruebas para lanzar ciberataques contra empresas como Hugging Face, plataforma dedicada al trabajo con inteligencia artificial de código abierto. La startup ha destacado que Astra no estuvo relacionado con ninguno de estos incidentes. OpenAI no es la única empresa de inteligencia artificial que ha tenido problemas de este tipo. La semana pasada Anthropic confirmó que, el pasado abril, tres herramientas de inteligencia artificial de la compañía habían llevado a cabo ciberataques contra otras tantas empresas. Unos días después, el Instituto de Seguridad de IA de Reino Unido compartía una investigación en la que mostraba cómo esta tecnología ya es capaz de utilizar ingeniería social de forma autónoma para tratar de engañar a usuarios y empresas con el fin de lanzar ciberataques, exactamente igual que un cibercriminal tradicional. La última firma de IA en unirse a la lista ha sido MetaAI , que esta misma semana confirmó que su modelo más avanzado, Muse Spark 1.1, 'hackeó' por error a una empresa durante un test de seguridad. En este caso, la incidencia se produjo debido a un error de Irregular, una empresa independiente dedicada a realizar evaluaciones de ciberseguridad que se encontraba probando las capacidades del sistema. Estos sucesos han provocado que el Gobierno de Estados Unidos esté comenzando a abandonar su enfoque no intervencionista en materia de inteligencia artificial. Para reducir los riesgos, Washington lleva semanas trabajando un nuevo marco voluntario de pruebas de ciberseguridad destinado a los modelos de IA más avanzados. Gracias a este, el Ejecutivo tendrá capacidad para revisar las herramientas de inteligencia artificial más punteras antes de su lanzamiento.

• Bruselas pide a Meta y TikTok un control más exhaustivo en redes tras la crisis migratoria en Ceuta

  La vicepresidenta ejecutiva de la Comisión Europea para la Soberanía Tecnológica, la Seguridad y la Democracia, Henna Virkkunen, ha pedido a Meta y TikTok a «actuar con decisión» para frenar la desinformación en tiempos de crisis a raíz de la crisis migratoria de la pasada semana en Ceuta . Tras la reunión que la Comisión Europea mantuvo con ambas plataformas el viernes, la comisaria expuso la necesidad de reforzar la verificación de datos ante una crisis como esta. «Las plataformas deben actuar con decisión para preservar la integridad del espacio digital», declaró Virkkunen. Se cree que una oleada de desinformación en redes sociales influyó considerablemente en la fatal llegada masiva de decenas de miles de hombres, mujeres y niños al territorio español del norte de África, después de que se difundiera en redes sociales el rumor de que la frontera de Ceuta estaba abierta. « Debe intensificarse la vigilancia y reforzarse la cooperación con los verificadores de datos», añadió Virkkunen, indicando que la Unión Europea (UE) «daría seguimiento el lunes». España actuó con rapidez para repatriar a las personas que se encontraban en Ceuta, anunciando el martes que, de las 72.000 personas que entraron en el enclave desde Marruecos entre el 30 y el 31 de julio, todas menos 2.000 habían regresado. Las autoridades españolas informaron de 80 fallecidos en los cruces fronterizos. El incidente fue utilizado por la derecha como prueba de que Europa está bajo asedio por la inmigración descontrolada. Ha provocado una ruptura diplomática entre España e Italia , también miembro de la UE, que defiende una postura firme en materia de migración. El comisario europeo de Migración, Magnus Brunner, describió el martes el episodio de Ceuta como una «prueba» de la seguridad fronteriza del bloque y de su «capacidad de resistencia a la desinformación». Los cruces fronterizos fueron «impulsados ​​por redes de tráfico de personas y también por la desinformación», afirmó Brunner, quien advirtió que era «demasiado pronto» para determinar quién estaba detrás de la «instrumentalización» de la situación en línea: si los traficantes o una potencia extranjera como Rusia. Sin embargo, advirtió que la UE «debe reforzar su capacidad para seguir las tendencias de desinformación en las redes sociales, trabajando codo con codo con Europol y todas las demás agencias de la UE». Una investigación de código abierto realizada por la empresa tecnológica Golden Owl ha concluido «con un alto grado de certeza» que la avalancha de migrantes «fue una operación deliberadamente organizada» .

• Condenan a Meta a pagar 567 millones de dólares y a limitar el uso de Instagram y Facebook por los adolescentes

  Un juez estadounidense de Nuevo México ha condenado a Meta -matriz de Facebook, Instagram o WhatsApp- a pagar 567 millones de dólares a un fondo para la salud mental de los adolescentes; además, la ha ordenado realizar cambios en el funcionamiento de sus redes sociales para proteger a los menores del estado y evitar que puedan volverse adictos a ellas. Con esta decisión, el juez Bryan Biedscheid, de Santa Fe, da la razón a la fiscalía general del estado, encabezada por el demócrata Raúl Torrez, que ya había conseguido una importante victoria en los tribunales contra Meta la pasada primavera. En sus conclusiones, Briedscheid ha comparado los efectos de las redes sociales de la empresa con la polución generada por una fábrica . «Del mismo modo que la contaminación nociva producida por una fábrica puede perjudicar el derecho público común a un aire razonablemente limpio, los efectos nocivos de las plataformas de Meta sobre los niños no se limitan a dichas plataformas, sino que migran a internet en su conjunto y, quizás lo más preocupante, al mundo real, creando una carga social común y un daño para los niños afectados, sus familias y escuelas, así como para los hospitales y las fuerzas del orden», señaló el juez en la sentencia. Para solucionar el problema, además, del pago de la multa, Biedscheid ha ordenado a la empresa realizar cambios de calado en el funcionamiento de sus redes sociales . Entre estos figuran, tal y como recoge 'Reuters', el establecimiento de límites mensuales de uso de Facebook e Instagram por parte de adolescentes, restricciones a las notificaciones, controles más estrictos sobre el contacto de adultos con menores, salvaguardias para los chatbots de IA y una revisión mejorada de los informes de abuso sexual infantil, en virtud de un decreto que estará vigente durante cinco años. Este es el tercer gran juicio que pierde Meta en los últimos meses y que guarda relación con los efectos perjudiciales que sus redes sociales pueden provocar en el bienestar de los jóvenes. El primero, precisamente, fue también en Nuevo México , donde la empresa fue encontrada culpable de facilitar la explotación sexual de menores en sus redes y condenada a pagar 375 millones de dólares. El segundo varapalo para Meta llegó en Los Ángeles . Allí se la condenó, junto a Google, a pagar 3 millones de dólares a una menor que afirmaba haberse vuelto adicta a las redes sociales por culpa del diseño de Instagram o YouTube. Los problemas para la tecnológica dirigida por Mark Zuckerberg no acaban aquí. Más de 40 estados y más de 1.300 distritos escolares han presentado demandas similares contra la empresa, con las que buscan conseguir indemnizaciones y nuevas órdenes judiciales que exijan cambios en los productos y las prácticas de la compañía. «Esto no es solo una sentencia contra una empresa. Es un modelo a seguir», señaló, en declaraciones recogidas por 'Reuters', Raúl Torrez. El fiscal general de Nuevo México destacó que «ahora otros estados y otros países que enfrentan la misma crisis tienen una hoja de ruta que pueden seguir». Evidentemente, Meta no está de acuerdo con la sentencia y ya ha anunciado que tiene intención de recurrirla. «Nos esforzamos por mantener la seguridad de los usuarios en nuestras plataformas y hemos sido transparentes sobre las dificultades para identificar y eliminar a los usuarios malintencionados y el contenido dañino. Seguimos confiando en nuestro historial de protección de los adolescentes en línea y continuaremos defendiéndonos de las acusaciones que tergiversan los hechos», ha señalado un portavoz de la empresa. Durante el juicio, la tecnológica negó que sus redes sociales se hubieran convertido en una molestia pública, tal y como señalaba la fiscalía de Nuevo México. Además, señaló que los cambios que querían obligarle a realizar en sus plataformas eran «tecnológicamente poco prácticos o completamente imposibles» y que podrían provocar que estas dejasen de estar disponibles en el estado.

• Terremoto ejecutivo en la IA de Google: Hassabis toma el mando científico tras la marcha del histórico Jeff Dean

  Google ha anunciado una profunda reorganización en el liderazgo del área de IA del gigante estadounidense , incluyendo la salida de la compañía de Jeff Dean, científico principal y un referente en el desarrollo de esta tecnología, mientras que Demis Hassabis, director de Google DeepMind (GDM) ampliará sus funciones al convertirse en presidente de GDM y Científico Jefe de Alphabet, sin dejar de liderar Isomorphic Labs. «He dedicado mi vida a trabajar en la IA general, y ahora que entramos en este momento crucial, asumo un nuevo rol como presidente de Google DeepMind y Científico Jefe de Alphabet. Esto me permitirá centrarme en la estrategia a largo plazo y acelerar los avances científicos, incluyendo el aprovechamiento de mi trabajo en Isomorphic para ayudar a curar enfermedades», ha indicado Hassabis a través de su perfil personal en X. En este sentido, el consejero delegado de Alphabet, Sundar Pichai, ha destacado los progresos extraordinarios en el desarrollo de la plataforma integral de IA de la compañía , añadiendo la necesidad de «acelerar todo este trabajo» y mantenerse enfocados en la vanguardia de esta tecnología con el fin de poder dar forma al futuro de la IA general y la ciencia. De tal modo, en cuanto a las nuevas responsabilidades de Demis Hassabis, ganador en 2024 del Nobel de Química junto a David Baker, y John M. Jumper, Pichai ha destacado que el nuevo puesto le permitirá centrarse por completo en dar forma al futuro de la IA general , «un trabajo de vital importancia para Alphabet y para la humanidad». Asimismo, la compañía ha informado de que Koray Kavukcuoglu, director de Tecnología de GDM y arquitecto jefe de IA de Google, asumirá el cargo de vicepresidente sénior de Google DeepMind, reportando directamente al CEO de Alphabet, Sundar Pichai, además de supervisar el desarrollo del modelo Gemini , la investigación de Frontier AI y los equipos de desarrollo y aplicación de Gemini. Por último, tras una trayectoria de 27 años, Jeff Dean dejará la multinacional para emprender nuevos proyectos junto con Sanjay Ghemawat, otro veterano de Google, con quien lanzará un proyecto para acelerar los descubrimientos en aprendizaje automático, ciencia e ingeniería. A este respecto, Dean ha anunciado la fundación junto a Sanjay Ghemawat, Oriol Vinyals y Quoc Viet Le, veteranos en el área de IA e ingeniaría de Google, de la corporación sin ánimo de lucro Discovery Loop.

• La IA de Meta 'hackea' a otra empresa y aumenta el miedo hacia esta tecnología

  Primero fue OpenAI , después Anthropic y, ahora, le ha llegado el turno a Meta AI. La división de inteligencia artificial del emporio de las redes sociales ha reconocido que su modelo de inteligencia artificial más punteros, el reciente Muse Spark 1.1 , 'hackeó' por error a una empresa durante un test de seguridad. La noticia se produce apenas unos días después de que saliera a la luz que otras herramientas similares, desarrolladas por algunas de las compañías de IA más destacadas del mundo, habían llevado a cabo acciones de esta clase. Según la firma dirigida por Mark Zuckerberg , el 'hackeo' se produjo debido a un error de Irregular, una empresa independiente dedicada a realizar evaluaciones de ciberseguridad que se encontraba probando las capacidades del último modelo de Meta AI. De acuerdo con la matriz de Facebook, Instagram y WathsApp, el fallo, que fue completamente humano, hizo posible que la herramienta tuviera acceso a internet, lo que le permitió «explotar una vulnerabilidad de seguridad en un servicio de terceros, de forma similar a casos previamente reportados por otras empresas». Fuentes de Irregular consultadas por 'Reuters' explican que el incidente fue provocado «exactamente por el mismo problema en el entorno de evaluación que ya había revelado Anthropic la semana pasada» y que no implicó «una fuga del entorno de pruebas ni una acción cibernética sofisticada». Efectivamente, Anthropic anunció a finales de la semana pasada que había descubierto que, el pasado mes de abril, que algunos de sus modelos de IA más potentes habían conseguido salir del entorno en el que se las había estado poniendo a prueba y terminaron 'hackeando' a tres empresas por error. Como en el caso de Meta, el fallo se produjo debido a una mala configuración que permitió que los sistemas tuvieran acceso a internet. Una semana antes de que se conociera este caso, OpenAI compartió que dos de sus modelos de IA más capaces en labores de ciberseguridad habían logrado explotar una vulnerabilidad en el 'sandbox' en el que la empresa los estaba testando. Esto les permitió abandonar el entorno de pruebas y recorrer los sistemas de la empresa hasta que consiguieron acceso a internet. Tras esto, lograron ciberatacar a varias empresas, entre ellas a Hugging Face, plataforma dedicada al desarrollo de herramientas de inteligencia artificial de código abierto. Desde que Anthropic anunció esta primavera el lanzamiento de Mythos -herramienta capaz de localizar vulnerabilidades y explotarlas mejor que casi cualquier experto humano- los gobiernos y las empresas han estado cada vez más preocupados por las posibilidades de esta tecnología, con capacidad para convertir la red en un polvorín. El Gobierno de Estados Unidos, que en un primer momento apostó por no regular la tecnología para garantizar que sus empresas mantuvieran el liderazgo mundial, incluso se está repensando esta postura. Un grupo de fiscales generales republicanos de distintos estados de EE. UU. solicitó recientemente a OpenAI que conserve toda la documentación que pueda resultar relevante para la investigación del ciberataque sufrido por Hugging Face. La compañía ha asegurado que atenderá la petición y que publicará un informe técnico sobre lo ocurrido. Además, a inicios de esta semana, el presidente Donald Trump y su equipo se reunió en la Casa Blanca con las principales empresas de inteligencia artificial -entre ellas Meta, Anthropic, OpenAI y Google- para informarles sobre el nuevo marco voluntario de pruebas de ciberseguridad destinado a los modelos de IA más avanzados. Gracias a este, el Gobierno estadounidense tendrá capacidad para revisar las herramientas de inteligencia artificial más avanzadas antes de su lanzamiento. Según la prensa local, durante esos encuentros la Administración también comunicó a los representantes de las compañías las normas de evaluación, que aún no se han hecho públicas, y les trasladó que los modelos de peso abierto -que son aquellos cuyos parámetros entrenados pueden descargarse y utilizarse, aunque su código o los datos empleados para crearlos no sean necesariamente públicos-, como Llama, de Meta, y Nemotron, de Nvidia, quedarían fuera del régimen voluntario de pruebas de seguridad que se está preparando.

• León XIV viajará a Argentina, la asignatura pendiente del Papa Francisco

  Era un secreto a voces en las últimas semanas. El Vaticano estaba puliendo la confirmación del que se convertirá, hasta el momento, en el viaje más largo del pontificado de León XIV, pero también el que más carga emotiva personal tenga para el Papa por dos motivos: será una vuelta a su pasado como Robert Prevost y cumplirá una de las asignaturas pendientes de su predecesor, Francisco. Se trata de una gira por Latinoamérica, que la Santa Sede ya ha hecho pública, del 6 al 17 de noviembre y que lo llevará a Uruguay, Perú y Argentina. En sus doce años de pontificado, Francisco realizó 47 viajes internacionales y estuvo en 66 países. De ellos, casi una decena eran latinoamericanos. Pero el Papa nunca volvió a Argentina, su tierra natal, aunque él mismo declaró en varias ocasiones que quería ir e, incluso, que se llegó a organizar, pero que, por problemas de agenda o temas de salud, se fue postergando hasta que, finalmente, nunca salió adelante. Clara Fontan, periodista argentina acreditada ante la Santa Sede que ha seguido todo su pontificado, explica a ABC que «hay muchas razones que se desconocen» sobre por qué el Pontífice murió sin pisar de nuevo Argentina. Pero señala que, para entender cómo actuó, hay que tener en cuenta dos matices: «Francisco, con toda claridad, expuso en su pontificado sus prioridades y, entre ellas, estaba visitar aquellos países a los que nunca había ido un Papa. Además, mucho responde a su personalidad. Él fue una persona austera, muy despojada, y puede haber motivos personales que quizá tienen que ver con prescindir de sus propios deseos de visitar su tierra». Otra de las periodistas que más ha seguido la trayectoria del anterior Papa es Elisabetta Piqué, autora de libros como 'Francisco, vida y revolución' y 'El último cónclave'. La corresponsal de 'La Nación' detalla a ABC que, más allá de la preferencia de Francisco por viajar a países periféricos o que nunca antes habían contado con la visita papal, «seguramente, también hubo motivos políticos desde que fue elegido, porque hubo mucha manipulación política y mediática de todo lo que decía y hacía. Lo acusaban de ser el Papa kirchnerista, después el Papa peronista cuando, en realidad, siendo arzobispo de Buenos Aires, a Francisco lo consideraban la figura opositora al matrimonio Kirchner». Pero uno de los episodios más sonados de los últimos años fue el de las tensiones entre el presidente de Argentina, Javier Milei, y Francisco. Sin embargo, todo sucedió previamente a la llegada de Milei a la Casa Rosada, entre 2020 y 2023, antes de su investidura el 10 de diciembre de ese último año: «Tuvo frases muy fuertes en contra del Papa. Lo llamó Satanás, justamente acusándolo de comunista, le dijo de todo», añade Piqué. Francisco evitó contestarle con declaraciones públicas y el deshielo llegó en febrero de 2024, con Milei ya encabezando la presidencia de Argentina. Un encuentro en el Vaticano que marcó un antes y un después entre ambos: «En ese momento, Milei le pidió perdón, pudo darle un abrazo y el Papa Francisco utilizó el humor para zanjar toda diferencia que pudo haber en el pasado. En dos minutos, se superaron todas aquellas fricciones». Por eso, ahora la visita de León XIV a Argentina marca un antes y un después, teniendo en cuenta que el último Pontífice que estuvo fue Juan Pablo II en 1987. De hecho, uno de los primeros en hacerse eco ha sido el propio presidente, Milei, quien ha calificado de «histórica para todos los argentinos» la llegada en noviembre del Papa. Además, como explica Piqué, se trata de un «anhelo» y asegura que el actual Pontífice «encontrará una Argentina que lo va a recibir con los brazos abiertos». Lo mismo comparte Fontan, al describir a su país como «un pueblo católico, que tiene toda la fuerza de la Iglesia en Latinoamérica, con su fe y su piedad popular». Sobre lo importante que es este viaje para sus paisanos, cuenta que «Argentina también lo necesita, como tantos otros países que sufren la fragmentación y la polarización, y que es evidente que el Papa León, como en su momento lo fue Francisco, es una figura moral que está recordando al mundo entero la necesidad de unidad y paz. Y el pueblo argentino va a recibir muy bien el mensaje que León está dando al mundo». Si hay un país que está en el corazón de León XIV, ese es Perú, otro de los destinos que visitará en esta gira, junto a Uruguay. Robert Francis Prevost fue misionero allí cuando era fraile de la Orden de San Agustín y, después, volvió como obispo de Chiclayo, donde estuvo desde 2015 hasta que el Papa Francisco lo llamó al Vaticano para dirigir el Dicasterio para los Obispos como prefecto en 2023. Esta es una de las visitas más queridas, tanto para el Papa como para los feligreses peruanos, que lo llevan esperando de vuelta en su nación desde el mismo momento en que Prevost fue elegido. De hecho, en el primer mensaje del Pontífice minutos después de la elección, les dijo lo siguiente: «Y si me permiten también una palabra, un saludo a todos y en modo particular a mi querida diócesis de Chiclayo, en el Perú, donde un pueblo fiel ha acompañado a su obispo, ha compartido su fe y ha dado tanto, tanto, para seguir siendo Iglesia fiel de Jesucristo».

• Un experimento del Gobierno británico demuestra que la IA ya decide sola y engaña a personas para ciberatacar

  Los agentes de inteligencia artificial quieren trabajar para ti; reservarte las vacaciones, pagarte la factura de la luz o hacerte la compra en el supermercado. El problema es que también pueden causar estragos en la red, como ha demostrado la tecnología desarrollada por OpenAI y Anthropic, que ya ha protagonizado 'hackeos' . Hace un mes la empresa de ChatGPT reveló que algunos de sus modelos de IA más avanzados se descontrolaron y hackearon una start-up después de que perdieran el control sobre ellos. Ahora una nueva investigación realizada por el Instituto de Seguridad de IA de Reino Unido (AISI, por sus siglas en inglés) informa de que los modelos más punteros de estas dos compañías, que estaban siendo testados por el organismo, habían tratado de lanzar ciberataques y de usar ingeniería social para engañar a usuarios humanos. Y todo de forma autónoma. Igual que haría cualquier cibercriminal. El episodio tuvo lugar el 28 de julio, durante una evaluación en la que varios agentes de IA debían resolver un desafío de ciberseguridad. En 19 de las 122 pruebas realizadas, dos de los modelos fueron más allá de lo previsto y llevaron a cabo acciones no autorizadas en internet. Diecisiete de estas fueron desarrolladas por Mythos 5, de Anthropic, mientras que GPT-5.6 Sol, de OpenAI, estuvo implicado en dos acciones. En ambos casos, los modelos contaban con acceso a internet y tenían los filtros de seguridad desactivados para medir su capacidad real. «En el caso más grave, un agente intentó insertar código malicioso en un proyecto de código abierto (en la plataforma de software Github). Para lograr la aprobación del código, el agente recurrió a la ingeniería social: creó identidades falsas en línea y las utilizó para presionar al responsable del proyecto y conseguir que aprobara el código. Un responsable humano lo detectó y se negó», explican desde AISI en una publicación en su página oficial. El organismo subraya que ninguno de los intentos tuvo éxito y que no existe constancia de que se causaran daños reales. Sin embargo, remarca que se trata de «la primera vez» que observa comportamientos autónomos y engañosos de este tipo «de forma tan clara, y sin ninguna provocación específica, en el mundo real». Aunque reconoce que el diseño de la evaluación -que permitió a los agentes tener acceso libre a internet con varios filtros de seguridad desactivados- favoreció este comportamiento, admite que la magnitud y la naturaleza de las acciones resultó sorprendente. Lo que más preocupa a AISI no es solo que el agente intentara, por iniciativa propia, introducir 'malware' en un proyecto de GitHub, sino que desarrollara por iniciativa propia una estrategia para lograrlo: investigó a los responsables del repositorio, creó varias identidades falsas y trató de manipularlos para que aceptaran el código malicioso. Ese intento de utilizar el engaño deliberado para conseguir sus objetivos, igual que trataría de hacer un cibercriminal humano, es el aspecto que el organismo considera más novedoso e inquietante. El agente también intentó «contactar directamente con personas reales, enviándoles mensajes y archivos a través de un servicio de transferencia para persuadirlas, o a sus propias herramientas de codificación de IA, de ejecutar su código malicioso». Además, escondió instrucciones maliciosas en la red para que las manipular a otras herramientas de inteligencia artificial. Asimismo, uno de los modelos trató de conseguir la colaboración de otros agentes con los que estaba realizando la evaluación. AISI remarca que los modelos no fueron instruidos para mentir: «El engaño surgió como consecuencia de la tarea, un tipo de engaño orientado a un objetivo que, hasta hace poco, había sido en gran medida teórico». En un comunicado recogido por ' Reuters ', Anthropic apunta que los hallazgos de AISI dejan claro que hace falta «un debate más amplio sobre cómo evaluar de forma segura a los agentes de IA, que cada vez son más capaces». La empresa dirigida por Dario Amodei está colaborando con el organismo para obtener más detalles sobre el incidente y llevar a cabo su propia investigación.  Por su parte, OpenAI realizó una publicación en su blog en la que destacó su compromiso a colaborar «para llevar a cabo evaluaciones de alto riesgo de forma segura, lo que incluye convocar a las partes interesadas, como los institutos nacionales de IA, los evaluadores independientes, otros laboratorios de IA y otros grupos en las próximas semanas». Desde AISI recuerdan que, aunque el incidente tuvo lugar durante una «evaluación controlada», «los modelos de IA se están volviendo más capaces y accesibles», por lo que no se descarta que este tipo de situaciones se vuelvan más comunes en el futuro, por ello, recomienda a las empresas que tomen medidas. «Las organizaciones deben garantizar la implementación sólida de los principios básicos de ciberseguridad y ser cautelosas al verificar el código y las contribuciones externas», destacan desde el organismo.

• Netflix sufre una caída y deja sin servicio a miles de personas

  La plataforma de 'streaming' Netflix ha sufrido una caída en la noche de este martes y ha dejado de funcionar para miles de usuarios en España. La plataforma Downdetector ha registrado hasta ahora más de 1.300 incidencias reportadas por los usuarios afectados sobre las 21:26 horas. La gran parte de los reportes de la caída de Netflix llegan de Barcelona, Madrid, Valencia, Sevilla, Málaga o Bilbao. Según Downdetector, las primeras incidencias llegaron sobre las 8:51. Para las 21:26, había 1.300 incidencias de usuarios afectados a los que no les funcionaba la popular plataforma de 'streaming' de series y pellículas. Sin embargo, sobre las 21:36, el problema se solucionó parcialmente y solo había 200 reportes. En cuanto al tipo de incidencia, según Downdetector, el 36% de los usuarios afectados tenían un problema con la reproducción del vídeo . A otro 33% de los usuarios no les funcionaba la aplicación, y un 29% ha reportado problemas con la conexión al servidor.

• Apple elimina Telegram temporalmente tras encontrar pornografía infantil en su interior

  Apple no permite que las aplicaciones disponibles para sus dispositivos ofrezcan contenido ilegal. La pasada madrugada, hora de España, la empresa de la manzana retiró la aplicación de mensajería Telegram de la App Store después de detectar en el interior de la aplicación contenido de abuso infantil. Esto provocó que numerosos usuarios repartidos por todo el mundo no tuvieran acceso a la plataforma durante un tiempo, según informa 'Bloomberg', medio que adelantó la noticia. «Retiramos brevemente Telegram de la App Store después de que en una revisión de seguridad nuestros equipos detectaran contenido que infringe nuestras estrictas normas que prohíben el material de abuso sexual infantil», señaló un portavoz de Apple en un comunicado. Desde la tecnológica de Cupertino añaden que la aplicación «fue restablecida posteriormente, una vez que el desarrollador eliminó rápidamente el contenido y bloqueó al usuario que lo había publicado». Telegram, por su parte, ha respondido al anuncio de Apple a través de un mensaje en su cuenta oficial de X en el que apuntó que espera que la empresa actúe de la misma forma con el resto de aplicaciones alojadas en su tienda cada vez que se detecte en su interior contenido ilegal. Esta no es la primera vez que la aplicación de mensajería es señalada por alojar contenido ilegal relacionado con la pornografía infantil. En agosto de 2024, el cofundador y CEO de la plataforma, Pavel Durov , fue detenido en Francia después de que la Justicia del país galo debido a la presunta complicidad del magnate con las actividades delictivas que se llevan a cabo en el interior de la aplicación. Estas van desde la piratería de retransmisiones deportivas hasta, efectivamente, el envío de contenido sexual ilegal. Un estudio publicado el pasado marzo por la organización AI Forensics apuntaba que la 'app' estaba siendo empleada por miles de hombres solo en España para compartir a través de canales y grupos contenido sexual no consensuado de mujeres y menores. «Nosotros creemos que Telegram tiene mucha responsabilidad. Creemos que es mediador de este tipo de violencia y que, además, la amplifica, porque pone a disposición de los usuarios una serie de funciones de pago como los bots, que hasta pueden 'desnudar' las imágenes de las mujeres dentro de la aplicación», explicaba entonces a ABC Silvia Semenzin, socióloga y autora principal de la investigación. Semenzin apuntaba, además, que la 'app' es «muy consciente de que estos grupos existen desde hace años, pero nunca ha hecho nada» para solucionar el problema: «Se desinteresa mucho, porque estos grupos tan grandes también le permiten hacer negocio». Telegram también ha sido objeto de escrutinio regulatorio por su control del material de abuso sexual infantil y otros contenidos ilegales. En abril, el organismo británico Ofcom inició una investigación destinada, precisamente, a comprobar si la aplicación está cumpliendo con su obligación de impedir que se compartan imágenes y vídeos de esta clase. La 'app' negó "categóricamente" las acusaciones y apuntó que desde 2018 ha "eliminado prácticamente" la difusión pública de material de abuso sexual infantil mediante sus algoritmos de detección. En su página de seguridad recoge que, solo en lo que va de año, ha eliminado cerca de 22 millones de grupos y canales en los que se compartían contenidos que violan sus términos de servicio. De entre todos estos, cerca de 338.000 se dedicaban, en concreto, al envío de material de abuso sexual infantil.

• La aviación eléctrica comienza a despegar

  Al rodar hacia la pista, la hélice deja de girar mientras este corresponsal reduce el acelerador para esperar el despegue. En una aeronave ligera monomotor, eso suele ser una señal preocupante de fallo en el motor. Sin embargo, este avión funciona con un motor eléctrico y, al igual que cuando te detienes en un Tesla, el motor se detiene hasta que vuelve a ser necesario. Al avanzar el acelerador, la hélice vuelve a encenderse y la aeronave pronto sube rápidamente, de forma inquietantemente silenciosa. El Pipistrel Velis Electro biplaza es el primer avión eléctrico certificado para la formación de pilotos. Además de su bajo ruido, presenta otras características inusuales. En lugar de la larga serie de comprobaciones de motores que... Ver Más