gadgetsgenial.es

Etiqueta: Apple Intelligence

  • Las ambiciones de IA de Apple en la App Store

    La IA ofrece importantes oportunidades de monetización y Apple, al igual que Google, están al acecho
    La IA ofrece importantes oportunidades de monetización y Apple, al igual que Google, están al acecho

    Apple quiere sacar dinero de la IA a través de las aplicaciones de la App Store

    A medida que el mundo tecnológico mira hacia la próxima Worldwide Developers Conference (WWDC) del 8 de junio, Apple se estaría preparando para una profunda transformación de su estrategia de inteligencia artificial. En el centro de esta evolución se encuentran una gran renovación de Siri para iOS 27 y un complejo esfuerzo por integrar IA “agéntica” en la App Store, un movimiento que promete cambiar la forma en que los usuarios interactúan con sus dispositivos, siempre que Apple logre sortear los riesgos de seguridad y las tensiones con desarrolladores.


    Una Siri más inteligente y abierta

    La pieza central del impulso de Apple en IA es una Siri completamente reinventada. Diseñada para competir con herramientas como OpenAI ChatGPT y Anthropic Claude, se espera que la nueva Siri sea mucho más capaz, impulsada en parte por acuerdos con Google para utilizar modelos Gemini personalizados.

    Una de las funciones más esperadas es la introducción de los “app intents”, una capacidad que permitiría a Siri ejecutar cientos de acciones complejas entre aplicaciones, por ejemplo, reservar vuelos o programar eventos en el calendario, sin que el usuario tenga que abrir manualmente las apps implicadas.

    En un giro hacia un ecosistema más abierto, Apple también estaría explorando un sistema que permita elegir entre varios chatbots de terceros para potenciar las funciones de Siri. Aunque ChatGPT actualmente ya está integrado para algunas tareas, Apple podría ampliar esto para incluir modelos de Anthropic o Google en herramientas como Image Playground y Writing Tools. Este movimiento llega después de que algunos socios hayan mostrado su decepción por las limitaciones actuales que impiden a los bots acceder a datos personales del usuario, como el correo electrónico.


    El dilema de los agentes de IA en la App Store

    Más allá de Siri, Apple se enfrenta al auge de los agentes de IA y el llamado “vibe coding”, una tendencia que permite crear apps y webs funcionales mediante lenguaje natural en lugar de la programación tradicional. Aunque esta tecnología resulta muy atractiva para los usuarios, genera un conflicto fundamental con las históricas normas de la App Store.

    La principal preocupación es la seguridad. El estricto proceso de revisión de Apple protege a los usuarios del malware, pero los agentes de IA pueden ser impredecibles, lo que no puede ser detectado por el proceso tradicional. También existe un riesgo financiero, ya que si los agentes pueden crear herramientas tan fácilmente, esto podría terminar reduciendo el valor de las apps y consecuentemente reducir los ingresos de la App Store.

    Para reconciliar ambas cosas, Apple estaría diseñando un nuevo sistema que garantice que los agentes de IA cumplan estrictos estándares de privacidad y seguridad. El objetivo es aprovechar sus beneficios evitando comportamientos “rebeldes” vistos en algunos sistemas open-source, como agentes que eliminan correos de forma autónoma, y evitando que se conviertan en vectores de malware.


    Fricción con desarrolladores y el coste de la integración

    A pesar del potencial, el proceso no está exento de tensiones. Apple ha estado intentando atraer a grandes desarrolladores, incluidos BaiduAlibaba Group y Tencent, para integrar sus servicios en la nueva Siri. Sin embargo, muchos se muestran cautelosos por el temor a futuras comisiones de Apple.

    Todas las aplicaciones que usan IA agéntica consumen tokens y hay que pagar por ello. Normalmente, el pago se hace directamente al proveedor de servicio. El temor es que Apple quiera cobrar una comisión sobre ese consumo.

    Aunque Apple ha sugerido que inicialmente no cobraría comisiones, no ha descartado introducirlas más adelante. Esta incertidumbre ha provocado que algunos desarrolladores avancen con cautela, evitando crear dependencias que Apple pueda monetizar en el futuro.

    La estrategia de Google

    Actualmente los smartphones Android están integrados por defecto con Google y la compañía se beneficia de ello vendiendo suscripciones para Gemini Max. Esta integración será aún mayor en Android 17 y sin duda Google buscará obtener mayores beneficios de la misma. Esto es algo que por cierto la Unión Europea está considerando prohibir, obligando a Google a permitir competir con otros modelos.

    La realidad es que en este momento todo el mundo está buscando monetizar la IA y esto puede crear una nueva brecha entre los usuarios que pueden pagar más suscripciones y los que no. En el evento de ayer de Google, está claro que todos los principales anuncios fueron para los dispositivos mas avanzados y claros, en los que las oportunidades de monetización son mayores. Es posible que en el caso de Apple ocurra lo mismo.


    El camino hacia la WWDC

    La presión por resolver estos retos aumenta rápidamente. El panorama competitivo cambia a gran velocidad y la demanda de los consumidores ya se refleja en el hardware. Se habla por ejemplo de un fuerte aumento en las ventas de Mac mini y Mac Studio por parte de usuarios avanzados que quieren ejecutar agentes de IA de forma local y de esta forma evitar pagar por modelos costosos.

    A medida que se acerca el 8 de junio, la industria observa cómo Apple intenta equilibrar innovación con su enfoque de “jardín amurallado” en seguridad y monetización. Ya sea mediante una Siri renovada o un nuevo marco para agentes de IA en la App Store, Apple está claramente intentando adaptar su ecosistema a un mundo centrado en la inteligencia artificial.

  • El exploit que logró que Apple Intelligence insultara a los usuarios

    Todos los modelos de IA locales se pueden engañar para saltarse las reglas, incluso Apple Intelligence.
    Todos los modelos de IA locales se pueden engañar para saltarse las reglas, incluso Apple Intelligence.

    Apple Intelligence es más grosero de lo que quisiera la empresa

    Apple Intelligence se ha convertido rápidamente en una pieza clave del ecosistema de la compañía. Integrado en Macs, iPhone y iPad recientes, el sistema de IA en el dispositivo impulsa apps nativas como Mail, Messages y Siri, además de estar disponible para desarrolladores. Con unos 200 millones de dispositivos compatibles activos a finales de 2025, la seguridad es crítica.

    Sin embargo, investigadores de RSAC demostraron recientemente lo vulnerable que pueden ser estos modelos locales. Encadenando dos técnicas avanzadas de ataque, lograron saltarse las protecciones de seguridad y forzar al sistema a generar respuestas controladas por el atacante.

    En sus pruebas, el equipo consiguió que la IA produjera texto ofensivo, pero el riesgo real iba mucho más allá porque la vulnerabilidad podía manipular datos accesibles por apps que usan el modelo.

    El riesgo real es la manipulación de contactos y otros datos

    Según Petros Efstathopoulos, VP de I+D en RSAC, el exploit podía crear contactos falsos en el dispositivo:

    • Añadir un nuevo contacto con privilegios de confianza
    • Insertar números maliciosos bajo nombres confiables (por ejemplo, “mamá”)

    Esto abre la puerta a ataques de ingeniería social mucho más sofisticados.

    Cómo funcionó el ataque

    Para ejecutar el exploit, los investigadores tuvieron que burlar la cadena de seguridad del sistema. Su hipótesis:

    1. Un filtro revisa la entrada del usuario.
    2. El modelo LLM genera la respuesta.
    3. Un filtro final revisa la salida antes de mostrarla.

    Para romper este flujo combinaron dos técnicas:

    1) Hack Unicode para engañar filtros

    El equipo escribió instrucciones maliciosas al revés y aplicó la función Unicode Right-to-Left Override. El resultado:

    • El texto parecía inocente para los filtros
    • El modelo lo interpretaba correctamente y ejecutaba las instrucciones

    2) Neural Exec: automatización del prompt injection

    Después desplegaron Neural Exec, técnica creada por el investigador Dario Pasquini que automatiza el prompt injection.
    En lugar de crear ataques manualmente, un algoritmo genera cadenas optimizadas para obligar al modelo a ignorar sus reglas.

    El hecho de que Apple use modelos más pequeños en el dispositivo, en lugar de modelos gigantes albergados en la nube, los hace más vulnerables a los ataques adversariales. De hecho, recientemente se anunció una herramienta de código abierto que puede eliminar todas las medidas de seguridad en modelos locales, llamada OBLITERATUS.

    76% de éxito en pruebas reales

    Para medir el impacto, los investigadores ejecutaron 100 pruebas combinando:

    • Prompts legítimos
    • Cadenas maliciosas
    • Entradas benignas extraídas de Wikipedia

    El ataque tuvo éxito en el 76% de los casos.

    La solución (y el reto a futuro)

    La buena noticia es que el fallo ya fue corregido. RSAC informó a Apple el 15 de octubre de 2025, y la empresa reforzó sus sistemas silenciosamente en iOS 26.4 y macOS 26.4.

    Aun así, el problema de la inyección de prompts está lejos de desaparecer. A medida que la IA se integra más en dispositivos personales, la seguridad seguirá siendo un juego constante de gato y ratón entre investigadores y atacantes.