Aller au contenu

Le média des artisans du web samedi 3 octobre 2026

IA pour le web

GitHub Copilot active Computer Use pour piloter les applications de bureau

GitHub a ouvert le 1er octobre 2026 l'accès public en préversion à Computer Use, une fonctionnalité qui permet à Copilot de cliquer, saisir du texte et naviguer dans des applications de bureau dépourvues d'API, de ligne de commande ou d'intégration MCP.

GitHub a ouvert le 1er octobre 2026 l’accès public en préversion à Computer Use, une fonctionnalité qui permet à GitHub Copilot de piloter directement des applications de bureau : clics, saisie de texte, navigation dans des menus, sans passer par une API ou une ligne de commande. L’annonce cible un angle mort resté intact depuis les débuts de l’automatisation par IA : les logiciels professionnels qui n’exposent ni API, ni interface en ligne de commande, ni serveur MCP.

Une fonctionnalité pensée pour les logiciels sans API

Computer Use est disponible dans le CLI de GitHub Copilot ainsi que dans l’application de bureau, sur macOS et Windows. Concrètement, l’agent lit le contenu accessible d’une application et son contexte visuel, puis agit : il clique sur des contrôles, saisit et modifie du texte, appuie sur des touches, fait défiler, effectue des glisser-déposer et navigue d’une application à l’autre pour enchaîner un flux de travail complet.

GitHub cite des cas d’usage concrets : remplir une note de frais dans un logiciel comptable fermé, résumer des notifications accumulées dans plusieurs applications, mettre à jour une présentation, ou déplacer des données d’un outil à un autre lorsque ces outils n’ont jamais été pensés pour communiquer entre eux. C’est un prolongement direct des agents éditoriaux déjà mis en production sur des chaînes de publication, mais appliqué cette fois à des interfaces graphiques qui n’exposent rien aux machines.

Ce que Copilot peut faire, et ce qui reste encadré

La fonctionnalité ne s’active pas silencieusement. Copilot demande une autorisation avant de prendre le contrôle d’une application, et l’utilisateur peut consulter ou réinitialiser la liste des applications déjà approuvées. Sur macOS, l’activation guide l’utilisateur à travers les autorisations système Accessibilité et Enregistrement d’écran, deux prérequis techniques du contrôle d’interface graphique. Les organisations peuvent désactiver la fonctionnalité via leurs paramètres managés, ce qui en fait un interrupteur global plutôt qu’un choix laissé à chaque poste.

Approche d’automatisationPré-requis côté applicationLimite principale
API ou webhookEndpoint documenté et stableInexistant sur la majorité des logiciels métier fermés
Serveur MCPIntégration développée pour l’outil viséTravail d’implémentation préalable, pas toujours justifié
Script CLIInterface en ligne de commande exposéeAbsente des logiciels strictement graphiques
Computer UseAucun : lecture de l’écran et des contrôles accessiblesDépend de la stabilité visuelle de l’interface ciblée

Avec Computer Use, GitHub Copilot ne se contente plus de lire du code : il clique, saisit du texte et navigue dans n’importe quelle application de bureau, qu’elle expose une API ou non.

Activer la fonctionnalité

Dans le CLI, la commande /computer on active le mode, /computer show affiche son état et /computer off le désactive. Dans l’application de bureau, le même interrupteur se trouve dans Paramètres puis Computer Use, ou directement via la commande /computer on en session.

# Dans le CLI GitHub Copilot
/computer on      # active le contrôle d'applications de bureau
/computer show     # affiche l'état et les applications autorisées
/computer off      # désactive la fonctionnalité

La fonctionnalité reste en préversion publique : GitHub recommande de limiter son usage aux applications non critiques tant que l’historique de fiabilité n’est pas établi, et de vérifier systématiquement les actions effectuées sur des données sensibles.

Une alternative à MCP, pas un remplacement

Computer Use ne concurrence pas les intégrations construites autour du protocole MCP : elle comble l’espace qu’elles ne couvrent pas. Un outil interne sans intégration programmable reste hors de portée des agents classiques pilotés en ligne de commande ou via API. GitHub parie que l’automatisation par le visuel, longtemps réservée à des scripts fragiles de type UI testing, devient fiable une fois confiée à un modèle capable d’interpréter le contexte d’écran plutôt que des coordonnées figées.

Ce qu’il faut retenir

Computer Use ouvre à GitHub Copilot un terrain jusqu’ici réservé aux outils spécialisés de RPA : piloter des logiciels sans API via la lecture d’écran et l’interaction directe avec les contrôles. La fonctionnalité est en préversion publique, soumise à autorisation explicite et désactivable au niveau organisation, ce qui en fait un ajout prudent plutôt qu’une bascule générale de l’automatisation vers l’agent.

Sur le papier, Computer Use règle un vrai problème : la plupart des outils métier que les équipes utilisent au quotidien n’ont jamais été conçus pour parler à une machine. Mais piloter une interface graphique par lecture d’écran reste un pari de fiabilité, pas une certitude : un changement de mise en page, une fenêtre de confirmation inattendue, et l’automatisation casse silencieusement. Avant de brancher Computer Use sur un processus qui touche à la facturation ou à des données clients, mieux vaut le tester plusieurs semaines sur des tâches sans conséquence, et garder un œil sur chaque session tant que GitHub lui-même la qualifie de préversion. — Simon Janvier

Pour aller plus loin : l’annonce officielle sur le changelog GitHub.

Partager LinkedIn Bluesky Hacker News E-mail

À lire aussi