Utilisateur:Alenoach/Centre d'intelligence artificielle compatible avec l'homme
| Center for Human-Compatible Artificial Intelligence | |
| Situation | |
|---|---|
| Création | 2016 |
| Domaine | Sûreté des intelligences artificielles |
| Siège | Berkeley (Californie) |
| Organisation | |
| Dirigeant | Stuart Russell |
| Dépend de | Université de Californie à Berkeley |
| Site web | https://humancompatible.ai/ |
modifier  |
|
Le Center for Human-Compatible Artificial Intelligence (CHAI, Centre pour des intelligences artificielles compatibles avec l'humain) est un centre de recherche de l'Université de Californie à Berkeley qui se concentre sur la sûreté des intelligences artificielles. Le centre a été fondé en 2016 par un groupe d'universitaires dirigé par Stuart J. Russell.[1],[2] Russell est connu pour avoir coécrit le célèbre manuel d'intelligence artificielle Artificial Intelligence: A Modern Approach.
En 2016, l' Open Philanthropy Project a accordé à CHAI un soutien de 5 555 550 $ sur cinq ans.[3] CHAI a depuis reçu des subventions supplémentaires de l'Open Philanthropy Project de plus de 12 000 000 $.[4],[5]
Recherche[modifier | modifier le code]
Une des principales approches de CHAI consiste à rendre les intelligences artificielles capables de déduire les valeurs humaines en observant le comportement humain (apprentissage par renforcement inverse).[6] Stuart Russel a détaillé cette piste de solution au problème de l'alignement dans le livre Human Compatible: Artificial Intelligence and the Problem of Control. Il a également travaillé sur la modélisation de l'interaction homme-machine dans des scénarios où les machines intelligentes ont un bouton d'arrêt qu'elles sont capables de déjouer.[7]
Voir également[modifier | modifier le code]
- Alignement des intelligences artificielles
- Future of Humanity Institute
- Future of Life Institute
- Machine Intelligence Research Institute
- Sûreté des intelligences artificielles
Références[modifier | modifier le code]
[[Catégorie:Intelligence artificielle]]
- Norris, « UC Berkeley launches Center for Human-Compatible Artificial Intelligence », (consulté le )
- Solon, « The rise of robots: forget evil AI – the real risk is far more insidious », The Guardian, (consulté le )
- Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2016) », (consulté le )
- Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2019) », (consulté le )
- « UC Berkeley — Center for Human-Compatible Artificial Intelligence (2021) », openphilanthropy.org
- Conn, « New Center for Human-Compatible AI », Future of Life Institute, (consulté le )
- Bridge, « Making robots less confident could prevent them taking over », The Times,