Red Hat rachète Chatterbox Labs pour sécuriser l’IA en entreprise

L’intelligence artificielle avance vite, parfois trop vite pour les équipes de sécurité. Red Hat choisit donc d’anticiper, plutôt que de réparer après coup.



Les entreprises multiplient les projets IA, souvent sans filet de sécurité solide. Red Hat décide alors de s’attaquer à ce point sensible. Le groupe met la main sur Chatterbox Labs. Une société spécialisée dans la protection des modèles et des usages IA.



Red Hat – Chatterbox Labs : pour sécuriser l’IA





Red Hat sait que l’IA ne se déploie jamais sans filet. Les environnements cloud et hybrides exposent les modèles à des usages imprévus. D’où le rachat de Chatterbox Labs. 



Fondée en 2011, Chatterbox Labs s’est construite autour de la sécurité de l’IA. L’entreprise mise sur la transparence et l’analyse quantitative des risques. Sa technologie évalue les modèles avant leur arrivée en production. 







Mieux encore, les tests automatisés occupent une place centrale dans cette plateforme. Ils mesurent les failles potentielles liées aux données et aux comportements des modèles. 



Chaque analyse produit des scores de risque exploitables rapidement. Les équipes disposent ainsi d’indicateurs lisibles pour décider sereinement. Ce qui devrait limiter les mauvaises surprises dès les premiers déploiements.



Qui surveille les agents intelligents ?





La plateforme de Chatterbox Labs repose sur trois briques complémentaires. AIMI pour l’IA générique mesure les risques des modèles fondamentaux. AIMI pour l’IA prédictive analyse robustesse, équité et explicabilité. Guardrails surveille les interactions avant la mise en production.



Guardrails traite un point sensible de l’IA générative. Les invites dangereuses, biaisées ou toxiques sont fréquentes sans contrôle automatisé. Cette technologie corrige les requêtes avant qu’elles atteignent le modèle. Les dérives sont alors stoppées en amont.



De nombreuses organisations peinent à superviser ces systèmes en continu. La surveillance humaine permanente devient vite irréaliste. Guardrails automatise cette vigilance sans surcharge opérationnelle. Les équipes peuvent se concentrer sur les usages métiers.



Les modèles actuels présentent une instabilité structurelle. Les hallucinations persistent malgré les optimisations successives. Des méthodes stables d’atténuation deviennent indispensables. Chatterbox Labs apporte cette stabilité technique attendue.



Red Hat voit aussi plus loin avec l’IA agentive. Le protocole MCP relie modèles et applications sans couche de sécurité native. Chatterbox Labs étudie déjà la surveillance des réponses et déclencheurs MCP. Cette recherche s’intègre à la feuille de route Llama Stack.






Cet article Red Hat rachète Chatterbox Labs pour sécuriser l’IA en entreprise a été publié sur LEBIGDATA.FR.


http://dlvr.it/TQ3cBS