Architecture Web Scalable : Comment nous avons géré une augmentation de 950 % du trafic

Ici chez MERCURY, nous recevons 100 millions de requêtes sur nos serveurs chaque mois - cela représente environ 3 millions de requêtes chaque jour.

Mais, c'est la partie "facile"...

Les défis surgissent lorsque nos clients lancent des campagnes ou de nouveaux produits sur le marché. Un lancement récent a déclenché une augmentation de 950 % du trafic !

Explorons exactement ce qui s'est passé et expliquons comment nous avons configuré notre infrastructure pour gérer facilement des pics comme celui-ci.

Qu'est-ce qui cause une augmentation de 950 % du trafic

Un de nos clients à Hong Kong est l'un des revendeurs de marques de mode de rue les plus connus au monde. Comme vous pouvez vous y attendre, ils connaissent d'énormes pics de trafic lorsque de nouveaux produits ou des produits en collaboration sont mis en vente.

Voici à quoi cela ressemblait lorsque qu'ils ont annoncé un produit collaboratif avec NIKE. C'est juste pour UN produit. Ils ont ÉNORMÉMENT de produits en cours.

Trafic Éphémère

Il y a plus de 10 000 utilisateurs qui accèdent en 1 jour lorsque le nouveau produit est annoncé à 16h.

Au cours de la période de 24 heures, qui comprenait l'événement de prévente, le site web du client a connu une augmentation de 950 % du trafic et une augmentation de 5000 % des requêtes vers la base de données. En d'autres termes, le site a consommé dix jours de son trafic "normal" en une seule journée, et la plupart de ce trafic a été réparti sur seulement 3 heures.

Alors, comment avons-nous configuré notre infrastructure pour gérer un tel pic ?

Gérer une telle augmentation massive du trafic est un immense défi, mais un que nous pouvons relever, grâce à notre capacité et notre stratégie de scalabilité. Nous décomposons notre plateforme en 'segments' autonomes par client que nous pouvons augmenter ou diminuer dynamiquement de manière indépendante, ajoutant de la capacité précisément là où elle est nécessaire, à tout moment. Notre plateforme a été conçue de manière à ce que nous ayons également séparé notre couche de recherche, en utilisant un système similaire à celui que nous utilisons pour nos serveurs d'application.

Les équilibreurs de charge suivent tous nos serveurs de recherche, équilibrant le trafic entre eux, évitant ceux qui rencontrent des difficultés. Cette configuration rend l'ajout de nouveaux serveurs rapide et facile si et quand une capacité supplémentaire est requise.

Au final, nous avons servi des commandes de vente (en moyenne) toutes les 2 secondes, avec plus de 800 accès simultanés à notre base de données et avons servi plus de 20 000 clients pour le compte de notre client.