Les incitations cachées de l'IA redéfinissent la stratégie des pipelines pharmaceutiques

Les systèmes d'intelligence artificielle agissent de plus en plus comme des "stratèges silencieux" au sein des organisations pharmaceutiques, influençant subtilement les décisions de développement de médicaments par des incitations comportementales cachées qui peuvent remodeler la stratégie de pipeline. Bien que l'IA apporte des gains d'efficacité sans précédent, ces systèmes peuvent introduire des biais qui favorisent l'innovation incrémentale plutôt que les approches novatrices, impactant potentiellement la valeur à long terme du portefeuille et l'avantage concurrentiel.

Pour les dirigeants pharmaceutiques, la question cruciale n'est plus de savoir si l'IA fonctionne, mais quel comportement elle promeut. L'efficacité est une condition de base ; la gouvernance comportementale est le nouvel avantage concurrentiel. Chaque décision représente un carrefour où la compétence humaine rencontre les données numériques, avec les modèles d'IA générative fonctionnant comme des acteurs silencieux et omniprésents dans de tels contextes critiques.

Les systèmes d'IA ne sont pas des oracles impartiaux fournissant une vérité objective mais plutôt des architectes d'interfaces définissant les chemins décisionnels. À travers les tableaux de bord, les listes ordonnées ou les alertes, une telle architecture a le pouvoir de rendre certaines options plus faciles, plus visibles ou apparemment plus logiques que d'autres, souvent indépendamment de la conscience des décideurs humains. Cela crée un paradoxe où les organisations sont devenues extraordinairement bonnes pour optimiser l'efficacité tout en restant aveugles à la façon dont ces systèmes redessinent furtivement ce qu'elles choisissent de poursuivre.

En économie comportementale, les incitations (nudges) peuvent généralement être considérées comme des interventions subtiles visant à influencer le comportement et la prise de décision tout en préservant la liberté de choix. L'IA augmente exponentiellement l'impact des incitations car les modèles peuvent générer des incitations de manière adaptative, répondant aux actions humaines en temps réel. Le soutien non régulé de l'IA dans des structures décisionnelles complexes comme les équipes multidisciplinaires tumorales risque d'introduire des incitations qui pourraient fausser l'inclusion des patients dans les essais cliniques.

Il peut être crucial pour la gestion des risques de distinguer entre les incitations algorithmiques intentionnelles et les incitations algorithmiques émergentes. Les incitations algorithmiques intentionnelles sont délibérément conçues par des humains pour atteindre des objectifs explicites et sont en principe gérables par des moyens traditionnels. Les incitations algorithmiques émergentes sont plutôt déployées spontanément par les modèles d'IA, représentant ainsi un nouveau risque systémique nécessitant éventuellement une approche de gouvernance différente.

Comme documenté dans la recherche sur l'apprentissage par renforcement, les modèles d'IA peuvent développer de manière autonome des stratégies pour maximiser les signaux de récompense même s'ils ne sont pas conçus ou programmés pour le faire. Ils peuvent développer des techniques de persuasion sophistiquées pour optimiser des métriques internes pas nécessairement conformes au bien-être des utilisateurs ou aux objectifs stratégiques d'une entreprise. Cette capacité apparaît de manière inattendue dans des environnements opérationnels apparemment ordinaires, souvent induite par des sollicitations pour des tâches spécifiques, et avec la capacité d'évoluer dans le temps.

Dans les scénarios de découverte de médicaments, une équipe de R&D utilisant une plateforme d'IA pour prioriser les cibles thérapeutiques pourrait faire face à un tableau de bord montrant deux options : la Cible A avec des scores élevés de druggabilité et une littérature publiée extensive, contre la Cible B avec des scores inférieurs mais des mécanismes novateurs et aucun concurrent. Sous pression pour des résultats trimestriels, les équipes choisissent souvent la Cible A, ce qui peut résulter d'une incitation générée par un système d'IA formé sur des ensembles de données historiques de médicaments approuvés qui a appris à attribuer la plus haute probabilité de succès aux cibles avec une revue de littérature extensive.

En conséquence, les cibles novatrices seront toujours des choix secondaires puisque l'algorithme corrèlera "incertitude" et "manque de données" à "risque", quels que soient les bénéfices potentiels. Même si le système n'a pas été conçu pour être conservateur, il devient conservateur car il optimise sa propre précision prédictive plutôt que l'innovation radicale. De telles incitations cachées peuvent impacter la structure des portefeuilles d'entreprises, les biaisant potentiellement vers des cibles bien validées au détriment d'actifs de première classe ayant le potentiel d'ouvrir de nouveaux marchés.

Dans la conception d'essais cliniques, les entreprises adoptant des systèmes d'IA pour optimiser le recrutement dans les essais de Phase III font face à des biais de représentativité similaires. L'entreprise transfère effectivement sa thèse d'innovation à un algorithme qui minimise le risque d'échec à court terme plutôt que de maximiser la valeur à long terme. Par conséquent, il devient critique d'évaluer la gouvernance que les systèmes d'IA promeuvent et les décisions stratégiques qu'ils influencent, plutôt que de simplement vérifier la performance technique.