À propos du poste
Le Fonds pour la sécurité de l’IA (AISF) accorde des subventions pour accélérer la recherche sur les menaces potentielles liées aux modèles d’IA frontières. L’objectif est de financer des projets qui identifient et évaluent les risques, améliorent le déploiement sécurisé de l’IA et soutiennent la recherche technique sur les systèmes de vérification d’identité des agents IA et les évaluations de sécurité.
Missions principales
- Mener des recherches sur les risques de sécurité liés aux modèles d’IA frontières, en priorisant les domaines de la biosécurité, de la cybersécurité et de l’évaluation des agents IA et du contenu synthétique.
- Développer des stratégies pour prévenir les conséquences négatives de l’IA, notamment via des systèmes d’authentification et de vérification des agents.
- Évaluer l’impact des recherches sur l’amélioration des mesures de sécurité pour les modèles d’IA déployés.
- Assurer la faisabilité, la pertinence et l’éthique des projets, avec des protocoles de sécurité pour gérer les risques immédiats et à long terme.
- Promouvoir l’équité, la diversité et l’accessibilité des résultats de recherche, tout en justifiant les éventuelles limitations d’accès.
Profil recherché
- Chercheurs indépendants affiliés à des institutions académiques, des organismes de recherche, des ONG ou des entreprises sociales, à l’échelle mondiale.
- Expertise technique en sécurité de l’IA, avec une expérience démontrée dans l’évaluation des risques et le développement de modèles frontières.
- Capacité à collaborer avec la communauté de recherche pour obtenir des retours sur les résultats.
- Engagement à respecter des normes éthiques élevées et à gérer les implications des découvertes.
- Projets axés sur les modèles d’IA frontières et leurs versions déployées, avec un budget ne dépassant pas 500 000 $.
Informations pratiques
Lieu : à distance ou selon l’affiliation du chercheur. Contrat : subvention de recherche. Date limite : 20 janvier 2025 pour les domaines Biosécurité et Cybersécurité ; 31 janvier 2025 pour Évaluation des agents IA et Contenu synthétique.
