Nvidia NeMo-Guardrails previene respuestas inapropiadas de IA’s

Nvidia está lanzando sus nuevas guías NeMo-Guardrails para prevenir respuestas inapropiadas de inteligencias artificiales. Como hemos podido presenciar en los últimos meses, las inteligencias artificiales todavía tienen ciertos desperfectos, siendo uno de estos sus respuestas groseras.

Para ser más precisos, NeMo-Guardrails es un software de código abierto de Nvidia que permite establecer ciertos límites a diversos chatbots. Debido a que ahora existen diferentes tipos de modelos de chatbots, se han creado 3 tipos de NeMo-Guardrails. Los Tropical Guardrails evitan que el chatbot encuentre temas que no son deseables. Mientras que los Safety Guardrails refuerzan las prohibiciones sobre el uso de lenguaje inapropiado y fuentes poco confiables. De esta manera, se evita que se propague información errónea o falsa. Finalmente, están los Security Guardrails que evitan el acceso de los chatbots a apps externas que podrían ser inseguras. Así se evita acciones de robo de datos como el pishing.

Cabe resaltar que este software de código abierto lo puede usar cualquier desarrollador de software. Así, gracias a Nvidia podrán tener respuestas más precisas, apropiadas y seguras. NeMo está disponible como un servicio en la nube para empresas que desean crear y ejecutar modelos de inteligencia artificial generativas personalizadas llamado NVIDIA Artificial Intelligence Foundation.