Lorsqu'on évalue une IA, tout se résume en fin de compte à deux questions : puis-je faire confiance au résultat, et puis-je l'expliquer ? Il existe toujours un risque de ne pas pouvoir expliquer le résultat lorsque l'IA est mal conçue.

À quoi ressemble un résultat mal fait ? est plus fréquent que la plupart des entreprises ne le pensent. Une IA générique peut produire un résultat d'apparence impeccable, indépendamment de ce qui se cache derrière. Comme les résultats peuvent varier (en raison de la formulation de la question, de la configuration du modèle ou de modifications hors du champ de vision de l'utilisateur), le résultat n'est pas toujours reproductible. Pour toute IA opérant dans un environnement soumis à des audits, c'est un défaut rédhibitoire.

Malgré cela, la plupart des fournisseurs de ce secteur ne sont soumis à aucune obligation de responsabilité externe quant à la manière dont leur IA traite les données, produit des résultats ou gère les risques, et les affirmations en matière de gouvernance figurant sur leurs sites web n'ont été vérifiées par aucun organisme extérieur à l'entreprise. C'est dans cette zone grise entre ce qui est affirmé et ce qui est vérifié que réside le risque.

Le résultat est-il vérifiable ? Si l’auditeur suivait exactement le même processus, obtiendrait-il la même réponse ? Un évaluateur peut-il justifier ce résultat auprès d’un prêteur ? La plupart des IA produisent des résultats probabilistes, ce qui signifie que le résultat peut varier selon la formulation de la question. L’IA d’Altus étant ancrée à un moteur de calcul déterministe, les mêmes entrées produisent systématiquement le même résultat. Chaque résultat est traçable jusqu’à ses hypothèses, chaque hypothèse est visible et contestable, et les résultats sont reproductibles.

2. Traitement des données

Les transactions immobilières commerciales impliquent régulièrement des informations financières confidentielles, des données personnelles et des informations importantes non publiques. Avant même de s'intéresser aux fonctionnalités ou aux prix, il convient de se poser les questions suivantes : les données client servent-elles à l'entraînement du modèle ? Qui y a accès ? Pendant combien de temps sont-elles conservées ? Chez Altus, les données confidentielles des clients ne sont pas utilisées pour l'entraînement du modèle. Le client reste propriétaire de ses données.

3. Validation

Qui a conçu l'IA, qui l'a testée et face à quoi ?ARGUS Assist, notre première couche d'agent IA dans le ARGUS Intelligence Platform, a été développée en partenariat avec notre propre Services de conseil en évaluationL'équipe de professionnels qui gère des milliers d'évaluations immobilières chaque trimestre a entraîné le modèle à l'aide de milliers de cas concrets, a analysé ses résultats et a corrigé son raisonnement. Si un fournisseur est incapable de vous indiquer les données utilisées pour l'entraînement du modèle et qui l'a validé, vous avez là la réponse.

Le secteur de l'immobilier commercial n'a pas une longue expérience de l'IA. La plupart des entreprises évaluent ces outils pour la première fois, et les fournisseurs savent que la maîtrise de la gouvernance par les acheteurs est encore en développement. C'est cette asymétrie qui est source de mauvaises décisions.

La certification ISO 42001 vise à combler cette lacune. Altus est déjà certifiée ISO 27001 pour la sécurité de l'information, et l'ISO 42001 étend cette même rigueur à l'IA. Dans un secteur fondé sur la confiance, la vérification indépendante est essentielle.

Comme notre Le PDG Mike Gordon le formule ainsi :Nos clients font confiance à Altus pour éclairer certaines de leurs décisions immobilières les plus importantes. En matière d'IA, ils ont besoin d'avoir confiance non seulement dans les données, mais aussi dans la technologie qui les sous-tend.

Cette technologie continuera d'évoluer. Les entreprises qui l'adopteront avec succès seront celles qui auront posé les questions difficiles en matière de gouvernance avant de signer, et non après qu'un problème soit survenu.