Ingénieur/ingénieure IA (AI Engineer)

Missions principales
Investigation et prototypage
· En lien avec les product managers et les designers, comprendre les besoins des utilisateurs et le traduire en un cas d’usage IA avec des crtières de succès mesurables
· Prototyper rapidement la brique IA (notebook, script, API) pour tester la faisabilité sur des documents et données réels
· Avec les développeurs, transformer le prototype en applicatif d’expérimentation testé par de vrais utilisateurs

· Suivi des projets avec les partenaires techniques du ministère, en particulier sur les itérations des solutions IA dans une logique d’amélioration continue
Intégration de modèles d'IA
• Intégrer des LLM (open-weight auto-hébergés ou via API souveraine) et d’autres modèles non génératifs (embeddings) ;choisir le bon modèle selon la tâche, la latence, et le coût
• Mettre en œuvre des briques IA : OCR, analyse de mise en page (layout parsing), extraction d'entités et de champs structurés sur des pièces scannées ou manuscrites, classification, reconnaissance vocale, modèles prédictifs selon le besoin
Systèmes agentiques : tools, skills et orchestration
• Concevoir et exposer des tools (function calling, serveurs MCP) qui connectent les modèles aux référentiels et applications métier
• Développer des skills réutilisables : instructions, ressources et scripts packagés pour une tâche métier récurrente
• Construire et orchestrer des workflows agentiques et des chaînes RAG
Paramétrage et optimisation des systèmes
• Concevoir et maintenir les prompts système, les schémas de sortie structurée et les garde-fous (guardrails)
• Régler les paramètres d'inférence (température, longueur de contexte, stratégies de décodage)
· Arbitrer entre prompt engineering, RAG et stratégie de fine-tuning (SFT et/ou RL)
• Optimiser les pipelines de données et d'inférence : qualité des données d'entrée, latence, coût par requête, robustesse
Évaluation
• Grâce à la plateforme d’évaluation interne, créer des jeux de test annotés avec les métiers, avec l’équipe évaluation déterminer des métriques automatiques avec des techniques heuristiques et LLM-as-a-judge
• Mettre en place l'observabilité des applications LLM (traces, coûts, retours utilisateurs)
Mise en production et pérennisation
• Rendre la brique IA prête pour la production : code testé, configuration versionnée (prompts, paramètres, modèles), gestion des erreurs et des coûts
• Documenter les choix (modèles, prompts, résultats d'évaluation) et partager les composants réutilisables : tools, skills, harness

Profil recherché :
Connaissances
Expertise en machine learning et/ou du fonctionnement des LLM
Maîtrise avancée de Python, frameworks de back-end (FastAPI), et consommation/conception d’API de type OpenAI ou MCP
Conteneurisation (Docker, Kubernetes)
Bases de données relationnelles et vectorielles (PostgreSQL, pgvector)
Architecture d’applications web
Outils d’observabilité LLM (Langfuse ou équivalent)
Savoir être
Orienté impact utilisateur : vous visez des solutions utilisées en production, pas des démonstrations
Esprit d’équipe et capacité à vulgariser à un profil non-technique son travail

Savoir-faire
Documenter ses choix techniques et présenter des résultats à un public non technique
Architectures d’applications d’IA générative : RAG (chunking, vectorisation, recherche hybride), agents, function calling, protocole MCP
Méthode d’évaluation des systèmes LLM : jeux de référence, LLM as a judge, tests de non-régression
Concevoir et consommer des API (FastAPI, API compatibles OpenAI, serveurs MCP)
Appliquer les pratiques ops : tests et TDD, intégration et déploiement continus (CI/CD), versioning Git
Sens du service public et curiosité pour son fonctionnement
Rigueur expérimentale : construction de jeux de test, choix des métriques, analyse d’erreurs, comparaison de modèles
Expériences professionnelles antérieures souhaitées
Intéressé(e) par le monde judiciaire et par l’intelligence artificielle, vous êtes diplômé(e) d'une école d'ingénieur, d’informatique, data science, IA, mathématiques appliquées ou équivalent universitaire. Vous justifiez d’au moins 3 ans d'expérience comme contributeur technique (data scientist, ML engineer ou software engineer) sur des produits intégrant de l'IA. Une expérience préalable sur un agent conversationnel (chatbot) ou un workflow agentique est un plus, mais n’est pas indispensable. Des expériences passées en co-construction avec des product managers, UX designers ou des développeurs seront valorisées.
Offres de formation associées à votre prise de poste
L’embarquement au sein de la Direction de programme intègrera une montée en compétence sur les sujets d’intelligence artificielle d’un point de vue socio-technique, ainsi qu’une acculturation au fonctionnement du ministère et aux métiers de la Justice.

L'employeur :
L’intelligence artificielle constitue aujourd’hui un levier majeur de transformation et doit aider la Justice à relever ses nombreux défis : faciliter l’accès au droit, accélérer les délais de traitement des procédures, sécuriser le travail des agents pénitentiaires, améliorer les conditions de travail. Le traitement plus rapide d’importants volumes d’informations, l’aide à la recherche et à la rédaction, la facilitation de certaines tâches répétitives, chronophages ou pénibles sont autant de perspectives majeures pour les agents du ministère.
Préconisée par le rapport sur l’intelligence artificielle remis au ministre de la Justice le 23 juin 2025, la direction de programme IA porte cette ambition pour la Justice. Elle construit et fait évoluer la stratégie IA du ministère, en lien avec les parties prenantes. Elle identifie les cas d’usages de l’IA au ministère, et les bénéfices attendus sur ces cas d’usage. Elle propose aux instances de gouvernance les décisions d’investissement et les projets à lancer. Elle fédère autour de cette stratégie les services et directions du ministère, et s’assure de leur participation à sa réalisation.
Elle s’assure au quotidien que les produits IA, ceux qu’elle porte directement et ceux portés par d’autres équipes du ministère, à qui elle apporte soutien et expertise, sont créés et évoluent dans un souci d’efficience globale.

Descriptif du service
Elle définit et conduit une stratégie pour la montée en compétence des agents du ministère sur l’IA, et veille à la bonne adéquation des produits IA aux besoins de ces utilisateurs. La direction de programme assure le secrétariat de l’observatoire de l’IA, instance distincte qui sera chargée d’accompagner la mise en œuvre de la stratégie du ministère en la matière.
La direction de programme est rattachée au secrétariat général du ministère de la Justice, qui assure une mission générale de coordination et de soutien aux services du ministère, et qui exerce les fonctions prévues par le décret n° 2014-834 du 24 juillet 2014 relatif aux secrétaires généraux des ministères.
En rejoignant cette direction, vous aurez un impact significatif sur la justice en France, en contribuant à des projets innovants qui rendent la justice plus équitable et efficace. Ce poste offre l'opportunité de combiner expertise technique et engagement, dans un environnement stimulant où l'innovation sert le bien commun.
Composition et effectifs du service
La direction de programme IA regroupe des compétences pluridisciplinaires (juridique, technique, portage de produits, métier, etc.) qui lui sont pour partie affectées en propre et pour partie mises à disposition par d’autres services du ministère.
Votre hiérarchie
La Direction de programme est composée d’une directrice (N+2), et d’un adjoint fonctionnel (N+1).