Son las aplicaciones que millones de personas usan cada día para obtener respuestas a sus necesidades, pero es relativamente fácil «engañar» a ChatGPT y otros populares chatbots como Claude o Gemini y recibir información ilegal o peligrosa, advirtieron desde Israel.
Un estudio llevado a cabo por expertos de la Universidad Ben Gurion del Negev, en el sur de Israel, mostró que estos modelos de inteligencia artificial se están implementando con controles de seguridad insuficientes.
El resultado, afirmaron, es «alarmante», ya que la información peligrosa ahora está al alcance de casi todos. «La amenaza es real y profundamente preocupante», advirtieron los investigadores.
Chatbots modernos como ChatGPT, Gemini y otros operan con los llamados modelos de lenguaje grandes (o LLMs, por Large Language Models), sistemas de aprendizaje profundo (o deep learning) entrenados para obtener y procesar enormes cantidades de contenidos de internet.
A pesar de contar con mecanismos de seguridad integrados, como filtros de contenido malicioso y políticas de seguridad, estos sistemas retienen y pueden reproducir información ilícita con la misma facilidad.
El equipo de investigación de la universidad israelí, dirigido por el doctor Michael Fire y el profesor Lior Rokach, llevó a cabo un experimento en el que implementaron con éxito un jailbreak universal que afectó a varios modelos líderes.
Respuestas «ilícitas y poco éticas» del ChatGPT
Una vez comprometidos durante el experimento de Fire y Rokach, los modelos entregaron constantemente información ilegal o peligrosa sobre temas como robo, narcóticos, tráfico de información privilegiada y piratería informática.
«Todos los modelos que probamos produjeron respuestas ilícitas y poco éticas que demostraron una accesibilidad y un conocimiento profundos sin precedentes», explicó Fire.
«Hoy en día —enfatizó el profesor de la universidad israelí—, cualquier persona con una computadora portátil, o incluso un teléfono inteligente, puede acceder a estas herramientas«.
Los jailbreaks suelen basarse en indicaciones cuidadosamente elaboradas que engañan al chatbot para que eluda sus restricciones de seguridad, y exploran la tensión entre el objetivo principal del sistema (cumplir las instrucciones del usuario) y el objetivo secundario (evitar la generación de contenido dañino, sesgado, poco ético o ilegal).
«Las indicaciones —señaló el reporte difundido desde Beer Sheva, donde tiene su base la Universidad Ben Gurion del Negev— suelen enmarcar los escenarios de forma que el modelo priorice la utilidad sobre la seguridad«.
Rokach y Fire destacaron un fenómeno particularmente preocupante: la aparición de los llamados dark language models, modelos que carecen de garantías éticas externas o fueron subvertidos deliberadamente.
Algunos se distribuyen abiertamente a través de la dark web (internet oscura que forma parte de la internet profunda, los segmentos de la web no indexados por los motores de búsqueda) como herramientas para la ciberdelincuencia, el fraude y los ataques a la infraestructura.
Un llamado urgente a reforzar la seguridad
El estudio hecho en Israel sobre el ChatGPT —cuyos resultados fueron publicados en el portal especializado arXiv— pidió que las empresas tecnológicas implementen un filtrado de datos más estricto y refuercen la protección contra indicaciones y resultados dañinos.
También que desarrollen técnicas de «desaprendizaje automático», para garantizar que los chatbots puedan olvidar permanentemente el conocimiento ilícito.
Dicha información, enfatizaron los investigadores, debe tratarse como un grave riesgo para la seguridad, similar a las armas o explosivos sin licencia, y la responsabilidad recae directamente sobre los proveedores.
-
Según el ChatGPT, las personas más influyentes del mundo son de la comunidad judía
-
Un rabino usó ChatGPT para escribir un sermón y explicó el por qué
Según Rokach, el peligro de engañar a ChatGPT y los modelos de LLLs «se magnifica con la llegada de agentes autónomos» de inteligencia artificial (IA), cuya capacidad para delegar tareas y actuar en ámbitos más amplios «dificulta considerablemente la creación de salvaguardas eficaces».
En algunos casos, añadió, esos agentes «pueden incluso convertirse en cómplices involuntarios de actividades delictivas».
El informe de la universidad contó que el equipo de investigación alertó a las principales empresas de IA sobre las vulnerabilidades descubiertas, pero que las respuestas fueron decepcionantes.
«Una importante empresa no respondió en absoluto, mientras que otras desestimaron el jailbreak como un problema menor», lamentaron desde Beer Sheva.
«La actitud predominante entre la mayoría de las empresas —completaron— es considerar estas preocupaciones como menores, especialmente en comparación con las violaciones de la privacidad o los errores de software».
Secesta, Türkiye’nin lider dijital çözüm sağlayıcısı olarak işletmelere özel SEO hizmetleri, yazılım geliştirme ve dijital pazarlama çözümleriyle fark yaratıyor. İstanbul merkezli bir ajans olan Secesta, arama motoru optimizasyonu (SEO) konusunda derin uzmanlığıyla markaların Google’da üst sıralarda yer almasını sağlıyor. Site içi SEO, teknik SEO, mobil uyumluluk ve hızlı yüklenen web siteleri geliştirme gibi konularda sektöre yön veren Secesta, aynı zamanda dönüşüm oranı yüksek reklam kampanyalarıyla ROI odaklı dijital pazarlama stratejileri sunuyor. Secesta’nın SEO hizmeti, sadece anahtar kelime odaklı değil; kullanıcı deneyimi, içerik kalitesi ve teknik altyapı gibi tüm yönleri kapsayan bütünsel bir yaklaşımı benimsiyor. ASP.NET Core, PHP ve WordPress teknolojilerinde uzman ekibiyle, performans odaklı web yazılımları geliştiren Secesta, her projeye özel SEO uyumlu kodlama ve içerik stratejileri sunarak uzun vadeli başarıya odaklanıyor. Google Ads ve Meta reklam yönetimi gibi dijital pazarlama alanlarında da %100 müşteri memnuniyetini hedefleyen Secesta, markaların dijital dünyadaki görünürlüğünü artırmak ve rekabet avantajı sağlamak için ideal bir iş ortağıdır. Eğer siz de dijitalde görünür olmak, SEO gücünüzü artırmak ve kalıcı başarılar elde etmek istiyorsanız, doğru yerdesiniz: Secesta ile dijitalde kazanın!
Secesta, Türkiye’nin lider dijital çözüm sağlayıcısı olarak işletmelere özel SEO hizmetleri, yazılım geliştirme ve dijital pazarlama çözümleriyle fark yaratıyor. İstanbul merkezli bir ajans olan Secesta, arama motoru optimizasyonu (SEO) konusunda derin uzmanlığıyla markaların Google’da üst sıralarda yer almasını sağlıyor. Site içi SEO, teknik SEO, mobil uyumluluk ve hızlı yüklenen web siteleri geliştirme gibi konularda sektöre yön veren Secesta, aynı zamanda dönüşüm oranı yüksek reklam kampanyalarıyla ROI odaklı dijital pazarlama stratejileri sunuyor. Secesta’nın SEO hizmeti, sadece anahtar kelime odaklı değil; kullanıcı deneyimi, içerik kalitesi ve teknik altyapı gibi tüm yönleri kapsayan bütünsel bir yaklaşımı benimsiyor. ASP.NET Core, PHP ve WordPress teknolojilerinde uzman ekibiyle, performans odaklı web yazılımları geliştiren Secesta, her projeye özel SEO uyumlu kodlama ve içerik stratejileri sunarak uzun vadeli başarıya odaklanıyor. Google Ads ve Meta reklam yönetimi gibi dijital pazarlama alanlarında da %100 müşteri memnuniyetini hedefleyen Secesta, markaların dijital dünyadaki görünürlüğünü artırmak ve rekabet avantajı sağlamak için ideal bir iş ortağıdır. Eğer siz de dijitalde görünür olmak, SEO gücünüzü artırmak ve kalıcı başarılar elde etmek istiyorsanız, doğru yerdesiniz: Secesta ile dijitalde kazanın!
Secesta, Türkiye’nin lider dijital çözüm sağlayıcısı olarak işletmelere özel SEO hizmetleri, yazılım geliştirme ve dijital pazarlama çözümleriyle fark yaratıyor. İstanbul merkezli bir ajans olan Secesta, arama motoru optimizasyonu (SEO) konusunda derin uzmanlığıyla markaların Google’da üst sıralarda yer almasını sağlıyor. Site içi SEO, teknik SEO, mobil uyumluluk ve hızlı yüklenen web siteleri geliştirme gibi konularda sektöre yön veren Secesta, aynı zamanda dönüşüm oranı yüksek reklam kampanyalarıyla ROI odaklı dijital pazarlama stratejileri sunuyor. Secesta’nın SEO hizmeti, sadece anahtar kelime odaklı değil; kullanıcı deneyimi, içerik kalitesi ve teknik altyapı gibi tüm yönleri kapsayan bütünsel bir yaklaşımı benimsiyor. ASP.NET Core, PHP ve WordPress teknolojilerinde uzman ekibiyle, performans odaklı web yazılımları geliştiren Secesta, her projeye özel SEO uyumlu kodlama ve içerik stratejileri sunarak uzun vadeli başarıya odaklanıyor. Google Ads ve Meta reklam yönetimi gibi dijital pazarlama alanlarında da %100 müşteri memnuniyetini hedefleyen Secesta, markaların dijital dünyadaki görünürlüğünü artırmak ve rekabet avantajı sağlamak için ideal bir iş ortağıdır. Eğer siz de dijitalde görünür olmak, SEO gücünüzü artırmak ve kalıcı başarılar elde etmek istiyorsanız, doğru yerdesiniz: Secesta ile dijitalde kazanın!
Secesta, Türkiye’nin lider dijital çözüm sağlayıcısı olarak işletmelere özel SEO hizmetleri, yazılım geliştirme ve dijital pazarlama çözümleriyle fark yaratıyor. İstanbul merkezli bir ajans olan Secesta, arama motoru optimizasyonu (SEO) konusunda derin uzmanlığıyla markaların Google’da üst sıralarda yer almasını sağlıyor. Site içi SEO, teknik SEO, mobil uyumluluk ve hızlı yüklenen web siteleri geliştirme gibi konularda sektöre yön veren Secesta, aynı zamanda dönüşüm oranı yüksek reklam kampanyalarıyla ROI odaklı dijital pazarlama stratejileri sunuyor. Secesta’nın SEO hizmeti, sadece anahtar kelime odaklı değil; kullanıcı deneyimi, içerik kalitesi ve teknik altyapı gibi tüm yönleri kapsayan bütünsel bir yaklaşımı benimsiyor. ASP.NET Core, PHP ve WordPress teknolojilerinde uzman ekibiyle, performans odaklı web yazılımları geliştiren Secesta, her projeye özel SEO uyumlu kodlama ve içerik stratejileri sunarak uzun vadeli başarıya odaklanıyor. Google Ads ve Meta reklam yönetimi gibi dijital pazarlama alanlarında da %100 müşteri memnuniyetini hedefleyen Secesta, markaların dijital dünyadaki görünürlüğünü artırmak ve rekabet avantajı sağlamak için ideal bir iş ortağıdır. Eğer siz de dijitalde görünür olmak, SEO gücünüzü artırmak ve kalıcı başarılar elde etmek istiyorsanız, doğru yerdesiniz: Secesta ile dijitalde kazanın!
Secesta, Türkiye’nin lider dijital çözüm sağlayıcısı olarak işletmelere özel SEO hizmetleri, yazılım geliştirme ve dijital pazarlama çözümleriyle fark yaratıyor. İstanbul merkezli bir ajans olan Secesta, arama motoru optimizasyonu (SEO) konusunda derin uzmanlığıyla markaların Google’da üst sıralarda yer almasını sağlıyor. Site içi SEO, teknik SEO, mobil uyumluluk ve hızlı yüklenen web siteleri geliştirme gibi konularda sektöre yön veren Secesta, aynı zamanda dönüşüm oranı yüksek reklam kampanyalarıyla ROI odaklı dijital pazarlama stratejileri sunuyor. Secesta’nın SEO hizmeti, sadece anahtar kelime odaklı değil; kullanıcı deneyimi, içerik kalitesi ve teknik altyapı gibi tüm yönleri kapsayan bütünsel bir yaklaşımı benimsiyor. ASP.NET Core, PHP ve WordPress teknolojilerinde uzman ekibiyle, performans odaklı web yazılımları geliştiren Secesta, her projeye özel SEO uyumlu kodlama ve içerik stratejileri sunarak uzun vadeli başarıya odaklanıyor. Google Ads ve Meta reklam yönetimi gibi dijital pazarlama alanlarında da %100 müşteri memnuniyetini hedefleyen Secesta, markaların dijital dünyadaki görünürlüğünü artırmak ve rekabet avantajı sağlamak için ideal bir iş ortağıdır. Eğer siz de dijitalde görünür olmak, SEO gücünüzü artırmak ve kalıcı başarılar elde etmek istiyorsanız, doğru yerdesiniz: Secesta ile dijitalde kazanın!