Quel est le processus de gouvernance de votre entreprise et le cadre d'évaluation des risques pour les technologies d'IA et de ML ?

Les processus de gouvernance de Genesys sont étroitement liés aux processus de développement. Dans le cadre de ces processus, Genesys intègre des mécanismes tels que les évaluations de l'impact sur la confidentialité des données, les contrôles de sécurité et de conformité, et les contrôles axés sur les risques du modèle d'IA. Ces examens interviennent à différents stades du cycle de vie du logiciel afin de promouvoir le développement responsable de l'IA et l'atténuation des risques.

Le pipeline de formation et d'inférence des modèles de Genesys Cloud, y compris les métriques, l'échantillonnage et la validation, suit le processus de révision standard partagé par tous les logiciels de Genesys Cloud. La première série d'examens a lieu pendant la phase de conception, dans le cadre du cycle de vie de la conception logicielle, où les architectes de l'IA et les scientifiques des données examinent et approuvent la conception, parallèlement aux examens relatifs à la protection de la vie privée et à la sécurité. La deuxième phase d'évaluation a lieu au stade du développement, au cours de laquelle tous les codes d'apprentissage et d'inférence des modèles sont évalués par des pairs avant d'être fusionnés et déployés. Cette étape comprend souvent des points de référence et l'ajout de tests spécifiques au modèle.

En outre, le comité d'éthique de Genesys AI, qui couvre plusieurs fonctions, notamment la protection de la vie privée, la sécurité, l'architecture, les produits et l'intelligence artificielle, tient des réunions trimestrielles régulières pour évaluer nos produits et nos processus du point de vue de l'éthique et de la gouvernance.

Ce cadre de gouvernance complet permet de garantir que les technologies d'intelligence artificielle et d'apprentissage automatique déployées par Genesys respectent les normes les plus strictes en matière de sécurité, de confidentialité et de considérations éthiques.