Être à la pointe
L’Intelligence Artificielle est un sujet qui agite les esprits. Si le monde universitaire explore les enjeux de l’éthique de l’IA, comme la chercheuse Carissa Véliz à Oxford par exemple, des acteurs de terrain et de confiance prennent aussi des initiatives concrètes.
Nextcloud 26 Hub 4 est la première des versions de Nextcloud à s’ouvrir à l’IA, mais propose un outil intéressant pour éclairer le choix des utilisateurs : l’AI Ethical Rating.
Confidentialité : Toutes les IA ne se valent pas
Une IA, aussi grisante soit-elle, peut avoir des zones d’ombres dans certains cas, en fonction de la technologie sur laquelle elle repose. C’est pour cela que l’entreprise allemande Nextcloud GmbH a entrepris une démarche de notation du niveau d’éthique de toutes les IA accessibles sur Nextcloud Hub, permettant à chacun de choisir l’IA qui lui convienne le mieux, en fonction de ses priorités. Une initiative qui peut faire penser à Terms of Service Didn’t Read : un projet communautaire d’évaluation des CGU et politique de confidentialité des grands sites. https://tosdr.org/
« AI Ethical Rating », l’indice de confiance « maison » de Nextcloud
Cette notation est représentée par 4 pastilles 🟢🟡🟠🔴 et s’obtient après corrélation des réponses à 3 questions importantes :
- Le logiciel et l’entraînement du modèle sont-ils open source ?
- Le modèle entraîné est-il librement disponible pour l’auto-hébergement ?
- Les données issues de l’entraînement du modèle sont-elles disponibles et libres d’utilisation ?
Dit autrement, plus une IA sera transparente, respectueuse de la confidentialité des données traitées, et auto-hébergeable, plus elle sera considérée comme éthique et tendra vers la meilleure note 🟢.
Où se trouvent les notations ?
Elles peuvent se trouver à 3 endroits différents :
- L’App Store public,
- Le gestionnaire d’application des administrateurs au sein des instances Nextcloud,
- Les descriptifs des projets GitHub correspondants.
À ces 3 emplacements, chaque application Nextcloud dispose d’un descriptif dans lequel on peut trouver la note évoquée. Une liste des points permet de justifier la note choisie en fonction des avantages et/ou inconvénients. Il faut savoir qu’une app peut donner accès de plusieurs manières à une IA, ce qui explique que le descriptif puisse comporter plusieurs notes.
Voir captures d’écran ci-après.
App Store accessible à tous
Exemple : https://apps.nextcloud.com/apps/integration_openai
Gestionnaire d’application (accessible aux administrateurs d’instance Nextcloud)
Exemple : https://{URL instance Nextcloud}/settings/apps/installed/integration_openai
GitHub (dédié aux développeurs et administrateurs, mais accessible à tous)
Exemple : https://github.com/nextcloud/integration_openai
Conclusion
L’évaluation des différentes IA selon le critère de la transparence est un bon outil au service des décideurs ou des personnes curieuses de l’utilisation de ces technologies. Si vous souhaitez échanger sur le sujet avec nous ou travailler sur la mise en place de Nextcloud, contactez-nous.