Test Page-Agent : L'agent GUI open-source pur frontend d'Alibaba – Une ligne de code transforme les sites en apps IA natives

Test Page-Agent : L'agent GUI open-source pur frontend d'Alibaba – Une ligne de code transforme les sites en apps IA natives

Test Page-Agent : L’agent GUI open-source pur frontend d’Alibaba – Une ligne de code transforme les sites en apps IA natives

À quel point est-il difficile d’ajouter un « Copilot IA » à un produit SaaS ? Les approches traditionnelles offrent essentiellement deux voies : soit réécrire le backend pour construire un système d’orchestration d’agents, soit installer une extension de navigateur ou un navigateur sans tête pour contrôler la page de l’extérieur. Aucune voie n’est légère.

Page-Agent d’Alibaba (18,7K étoiles GitHub, licence MIT) offre une troisième voie : un agent GUI en JavaScript pur dans la page, qui vit dans votre page web et opère l’interface en langage naturel.

Pas d’extension de navigateur, pas de Python, pas de navigateur sans tête – juste une seule balise <script>, et votre page peut comprendre des commandes en langage naturel.

Qu’est-ce que Page-Agent

Page-Agent est l’agent GUI pur frontend d’Alibaba, écrit en TypeScript, fonctionnant dans l’environnement d’exécution JavaScript du navigateur. Il lit le DOM de la page sous forme de texte pour comprendre la structure de l’interface, puis utilise un LLM pour décider quelle action effectuer (clic, remplissage, défilement, etc.), traduisant finalement les décisions en opérations DOM réelles.

Le positionnement central est clair : Amélioration Web côté client, pas d’automatisation côté serveur. Ses utilisateurs cibles sont les développeurs de produits – vous permettant d’ajouter des capacités opérationnelles IA à vos produits SaaS, systèmes ERP/CRM et tableaux de bord d’administration avec seulement quelques lignes de code.

La différence essentielle avec l’automatisation de navigateur traditionnelle

La plupart des solutions d’automatisation web sur le marché suivent la route du « contrôle externe » – lançant un processus de navigateur et opérant la page via le protocole CDP. Page-Agent va dans la direction opposée : il s’exécute dans l’environnement d’exécution JS de la page elle-même, dans le même processus que votre code métier.

DimensionPage-AgentPlaywright / Browser UseSelenium
Emplacement d’exécutionJS dans la page, même processusProcessus externe contrôlant le navigateurProcessus externe + WebDriver
DépendancesUne balise <script>Python + binaire de navigateurJava/Python + pilotes
Installation utilisateurZéro installation, intégré dans la page webNécessite une extension ou un client AgentNécessite la configuration du pilote
Méthode de perceptionDOM texte (pas de captures)Captures + LLM multimodal / DOMDOM via WebDriver
Exigences de modèleModèle texte uniquementMultimodal ou textePas de LLM nécessaire
Idéal pourCopilot IA dans le produitAutomatisation multi-sites / RPATests E2E
PositionnementAmélioration web côté clientAutomatisation côté serveurFramework de test

Architecture technique centrale : Déshydratation du DOM

La décision de conception la plus intelligente de Page-Agent est de ne pas prendre de captures d’écran. La plupart des agents GUI reposent sur « captures d’écran + LLM multimodal regardant des images pour opérer », mais cette approche ne fonctionne tout simplement pas dans un environnement JS pur dans la page.

Page-Agent utilise une technique appelée Déshydratation du DOM :

  1. Scanner le DOM : Parcourir le Document Object Model de la page, identifiant tous les éléments interactifs
  2. Indexation des éléments : Attribuer un numéro d’index à chaque élément interactif, avec son rôle et son étiquette
  3. Générer FlatDomTree : Convertir le DOM vivant en une structure arborescente textuelle compacte
  4. Prise de décision LLM : Le LLM texte lit cette représentation compacte et sort des instructions d’action
  5. Exécuter les opérations : L’Agent traduit les instructions en opérations DOM réelles

Intégration en une ligne de code

Expérience la plus rapide (LLM de test gratuit)

<script
    src="https://cdn.jsdelivr.net/npm/page-agent@1.12.2/dist/iife/page-agent.demo.js"
    crossorigin="anonymous"
></script>

Installation NPM (Production recommandée)

npm install page-agent
import { PageAgent } from 'page-agent'

const agent = new PageAgent({
    model: 'qwen3.5-plus',
    baseURL: 'https://dashscope.aliyuncs.com/compatible-mode/v1',
    apiKey: 'VOTRE_CLE_API',
    language: 'fr-FR',
})

await agent.execute('Cliquez sur le bouton de connexion')

Comparaison complète avec les solutions d’agent GUI mainstream

DimensionPage-AgentBrowser UseUI-TARSPlaywright MCP
DéveloppeurAlibabaCommunity open-sourceByteDanceMicrosoft
Emplacement d’exécutionJS dans la pageProcessus Python externeProcessus externeProcessus Node externe
Méthode de perceptionDOM texteDOM + captures optionnellesCaptures + multimodalDOM via CDP
Exigences de modèleModèle texteTexte ou multimodalModèle vision spécialiséModèle texte
Multi-pagesExtension Chrome requiseSupport natifSupport natifSupport natif
Difficulté d’intégration⭐ Très faible⭐⭐⭐ Moyenne⭐⭐⭐⭐ Élevée⭐⭐⭐ Moyenne
Scénario centralCopilot dans le produitAutomatisation généraleTâches visuellement complexesContrôle de navigateur par agent

Conclusion

Avantages

Intégration zéro-installation : Une balise <script>, les utilisateurs ne remarquent rien ✅ Léger et efficace : DOM texte pur, pas de modèles multimodaux nécessaires, coûts réduits ✅ Agnostique en modèle : Supporte toute API compatible OpenAI, y compris les modèles locaux ✅ Contrôles de sécurité : Liste d’autorisation d’opérations, masquage de données, injection de connaissances ✅ Open-source et gratuit : Licence MIT, utilisable commercialement

Inconvénients

Limitation à une seule page : Multi-pages nécessite l’extension Chrome ❌ Perte d’informations visuelles : Non adapté aux pages visuellement intensives Canvas/WebGL ❌ Dépendance au LLM : Chaque opération a une latence réseau et des coûts API ❌ Sécurité de la clé API : Risque d’exposition frontend, nécessite un proxy backend

Qui devrait l’utiliser, qui ne devrait pas

Devrait utiliser :

  • Développeurs SaaS : Ajouter un Copilot IA aux produits
  • IT d’entreprise : Optimiser les systèmes internes (ERP/CRM/OA)
  • Développeurs d’accessibilité : Rendre les pages web plus conviviales pour les utilisateurs handicapés

Ne devrait pas utiliser :

  • Ingénieurs de test : Playwright est plus approprié
  • Développeurs de crawlers : Puppeteer/Cheerio est plus approprié
  • Automatisation multi-sites : Browser Use est plus approprié

Espérons que cet article de blog vous a été utile !