Expert IA - Fine-tuning Modèles Cybersécurité - Freelance

Contexte

Au sein de notre SOC, nous intégrons des technologies d'Intelligence Artificielle Générative pour automatiser l'analyse de menaces, contextualiser les alertes de sécurité et assister nos analystes. Nous recherchons un(e) Expert(e) en IA spécialisé(e) dans l'entraînement, l'alignement et l'évaluation de Modèles de Langage (LLM/SLM) afin de concevoir des modèles souverains, ultra-spécialisés en cybersécurité.

En collaboration directe avec l'équipe R&D Cyber et l'équipe SOC, le/la consultant(e) aura pour missions de :

Missions

• Fine-tuning de modèles : Adapter et spécialiser des LLM open-source (Llama, Mistral, Qwen...) sur des données de cybersécurité (logs, rapports CTI, playbooks).
• Alignement et limitation des hallucinations : Mettre en œuvre des techniques d'apprentissage par renforcement pour s'assurer que les modèles génèrent des réponses précises, sécurisées et sans biais/hallucinations (crucial pour le SOC).
• Formatage et structuration des données : Définir et appliquer les meilleurs formats de prompt et de conversation pour l'entraînement.
• Évaluation et Benchmarking : Mettre en place des pipelines d'évaluation rigoureux pour mesurer la performance des modèles spécialisés "Cyber" par rapport aux standards du marché.

Outils & Environnement

• Fine-tuning de modèles (PEFT) : Maîtrise avancée des techniques d'adaptation à faible rang : LoRA et QLoRA.
• Frameworks de fine-tuning rapide : Unsloth, Axolotl, ou TRL (Transformer Reinforcement Learning d'Hugging Face).
• Formats de templates de discussion : ChatML et Alpaca pour structurer les datasets d'entraînement textuels.
• Méthodes d'alignement et contrôle des hallucinations : DPO (Direct Preference Optimization), GRPO (Group Relative Policy Optimization), PPO (Proximal Policy Optimization).
• Frameworks d'alignement : TRL, verl ou OpenRLHF.
• Protocoles d'évaluation rigoureux et benchmarks standards : MMLU, GSM8K, Evaluation Arena / LMSYS, LLM-as-a-judge.
• Stack MLOps : Plateformes comme Hugging Face Hub, vLLM, Ollama ou Triton pour le déploiement et l'inférence optimisée.
• Développement : Python et PyTorch.

Langues

• Anglais professionnel (impératif)
• Français courant (impératif)