Abordan en Unicaribe los retos de la Ciberseguridad en modelos de lenguaje
* En el maro del Día de la Ingeniería en Inteligencia Artificial
Cancún, Q. Roo, México, 9 octubre 2026.- En el marco de la celebración del Día de la Ingeniería en Inteligencia Artificial en la Universidad del Caribe, el destacado investigador y docente Mtro. Raziel Campos impartió una trascendental conferencia titulada "Ciberseguridad en modelos de lenguaje: riesgos, ataques de jailbreak y estrategias de protección".
El evento reunió a la comunidad universitaria, estudiantes de Ingeniería en Inteligencia Artificial, para abordar las crecientes vulnerabilidades que enfrentan los sistemas inteligentes frente al uso indebido.
Durante su intervención, el Mtro. Campos Sánchez profundizó en los ataques de jailbreak, una técnica mediante la cual los usuarios emplean el lenguaje natural para eludir de forma deliberada las restricciones de seguridad integradas de fábrica en los Grandes Modelos de Lenguaje (LLM).
El especialista explicó que, dado que las instrucciones y los datos se procesan conjuntamente en estos sistemas, resulta sumamente sencillo para un atacante camuflar comandos maliciosos que lleven a la inteligencia artificial a ejecutar acciones no deseadas o a liberar información restringida, un fenómeno catalogado bajo la taxonomía del uso maligno en ciberseguridad.
"Las inteligencias artificiales actuales son un tanto ingenuas e inseguras; el conocimiento dañino con el que fueron entrenadas sigue ahí, solo se ha intentado desviar el camino mediante alineación o fine-tuning", señaló el académico.
Asimismo, recalcó que utilizar un LLM para proteger a otro no es una solución viable porque ambos adolecen de la misma predictibilidad, abriendo la puerta a investigaciones orientadas a colocar barreras externas de seguridad que filtren de manera efectiva las consultas de los usuarios.
El itinerario completo del día abarcó una amplia variedad de tópicos clave para el sector.
Las actividades incluyeron la ponencia de la Dra. Alina Santillán Guzmán sobre el criterio humano en el sector salud. Posteriormente, la Dra. Candy Sansores Pérez y el Dr. Rogelio Sotero Reyes Galaviz lideraron talleres sobre la arquitectura de PyTorch y tertulias sobre el panorama contemporáneo de la IA, respectivamente.
La tarde continuó con un bloque dinámico compuesto por una sesión de Speed Coding, un Rally en el área de ingenierías, y la conferencia de ciberseguridad del Mtro. Raziel Campos, quien además impartió más tarde un taller enfocado en fundamentos prácticos de seguridad informática.
El cierre técnico estuvo a cargo del Dr. Héctor Fernando Gómez con su presentación sobre pipelines de datos en movimiento, concluyendo el magno evento con la proyección de la película "Mercy".
