Tranquillity T3

Proiectul se numește TQ Tech III (TQ cu numele complet, server master EVE Online „Tranquility“), datorită faptului că schimbările infrastructurii fizice ale Evei pentru a treia oară. SSR este de a face investiții semnificative în echipamente de brand nou (echipamente de rețea, sisteme de stocare și servere), și îl transferă la un nou hosting la Londra.

In trecut, am făcut ca muncile lui Hercule. Aici sunt un cuplu de link-uri pentru a reîmprospăta memoria:

Conform paradigmei de „Eva pentru totdeauna“, este timpul pentru a actualiza „Tranquility“ și înarmați cu noi tehnici și tehnologii în ultimii ani, trimițându-i să se asigure și să mențină cel mai complex joc de lume, precum și accesul la servicii.

La TQ Tech III are multe aspecte, pe care le voi explica cu ajutorul colegilor săi dezvoltatori.

Notă: acum va exista o mulțime de tehnologie super-Duper!

redundanță suplimentară

Sistemul de stocare „Tranquility“ este duplicat și redundante. O serie de stocare a fost întotdeauna excesul de greutate, dar acum am crescut numărul de elemente de toleranță la defecte.

Vom avea o oglindă completă a unei rețele de zona de stocare (SAN oglindă) pentru a menține simultan „Tranquility“ și de rezervă în funcțiune, precum și pentru precis „Tranquility“ redarea datelor de bază pe de cealaltă parte a oceanului în Islanda, o țară de gheață și foc.

Asta e modul în care va apărea „Tranquility“ din depozitul de date, după locul de muncă:

Puteți vedea două dintre controler IBM SAN, determinarea performanței de două controlere V5000 aceeași firmă; acestea, la rândul lor, să păstreze toate datele de pe trei piloni de expansiune, care conține 9 800 GB SSD-uri, pentru un total de 83 1.2Tb 10K SAS pe disc. Nu uita că totul este duplicat, astfel încât o imagine completă a duble numere!

Acesta funcționează foarte repede, iar noul magazin ar trebui să se refere la serverele ...

noi servere

În prima zi a „Eva“, care rulează pe servere blade IBM. Pentru a face upgrade, am ales noua generație de servere IBM, numit IBM FLEX. In imaginea de mai sus puteți vedea conexiunea șasiului FLEX cu sistemul de stocare.

Conceptul FLEX este similar cu lame că șasiul oferă puterea și răcire, și poate transporta până la 14 noduri (noduri) pe fiecare șasiu.

Prin comparație, lame de astăzi „Tranquillity“ lucra cu conexiuni Ethernet Gigabit patru, fiecare dintre cele 14 unități are acces la două conexiuni Gigabit, deoarece acestea au două plăci de rețea.

Noul șasiu IBM Flex va primi patru conexiune desyatigigabitnyh, oferind fiecare tranzitată nod în 2x10 Gbps.

Astăzi este prea mult pentru „Eva“, dar după instalare, inginerii noștri vor fi capabili de a experimenta cu moduri noi și interesante pentru a scalei de performanță „Tranquility“ și arhitectură în general. Aceasta, desigur, va lua timp, dar efectul imediat este foarte eliberare rapidă a actualizărilor!

În plus, ca urmare a îmbunătăți în mod serios mediul virtual server, cum ar fi transferul de timp real mașină virtuală la o altă gazdă fizică.

Oh, da, vom 6 a șasiului. D

Este posibil să observați o mare varietate de componente redundante. Și conceput: pentru a servi „Tranquility“ putem opri același șasiu complet, iar jucătorii vor continua să lupte, pentru a scrie într-o cameră de chat, fabricarea, cercetarea și induce în eroare pe cele cinci rafturi rămase.

Serverele sunt conectate la sistemul de stocare prin intermediul shestnadtsatigigabitnye switch IBM SAN 2498-F48. Toate eco-conectate, astfel încât să se evite existența unor puncte de potențial rău, în funcție de un singur sistem de nod.

Acum avem o componenta de ciorchine „Tranquility“, pe care o numim „Everest“. Este folosit în situațiile în care este necesar pentru a face față cu o sarcină foarte mare - de obicei, are loc în timpul combate majore într-un MMO.

De „Tranquility T3“ va fi de șase „Everest“ noduri de tip.

Se va arunca în aer în același timp o mulțime de nave. Și în caz de nevoie, unele alianțe pot fi uitați simultan pentru a plăti facturile importante!

Bază de date Charming "Tranquility"

Să aruncăm o privire mai atentă la cluster. Să începem cu echipamentul pentru a lucra cu baza de date „Tranquility“.

Fiecare dintre cele patru Microsoft SQL Database este o masina de impresionant 768 GB de memorie RAM, care rulează la o frecvență de 1866 MHz. Ei vor avea 2 Intel E7-8893 procesor v3 - un procesor cu o frecvență de 3,2 GHz și 4 nuclee (8 gipertredingom) și cache 45 MB, ceea ce le face ideale pentru lucrul intensiv cu baza de date.

Aici este o relatare mai detaliată a bazei de date de către administratorii săi.

bază de date clustere

Acum avem trei baze de date principale de cluster:

• "Tranquility" (2 hprotsessorny 32 nuclee din gipertredinge)
• Web Server (2-hprotsessorny cu 24 nuclee din gipertredinge)
• conturile și serverul de management de facturare (2 hprotsessorny-24 nuclee din gipertredinge)

Toate cele trei operează pe complet diferite tipuri de echipamente din diferite generații de arhitecturi, interconectate bandă de încredere matarskoy, rugăciuni pioase Amarr, Gallenteans spirit naive și pline de bucurie și fire de slabă calitate, produs de masă în statul Caldari. Pe noul cluster „Tranquility“ vom optimiza toate și pentru a elibera spațiu, așa că se alăture unui server de web și de gestionare a contului de server și de plăți. „Tranquility“ va rămâne separat de restul.

Amintiți-vă, aceasta este doar pentru un număr de noduri activi. Dacă luăm în considerare nodurile secundare și pasive, valoarea totală a clusterului de memorie „Tranquility“ ar trebui să fie dublat. 3TB de RAM la 2 grupuri de afaceri - Mmmm, bun!

Am considerat posibilitatea de a folosi un singur cluster activ-activă a două noduri, dar a decis împotriva ei din diverse motive. De exemplu, în cazul în care unul dintre oprire de lucru cluster.exe, întregul birou poate fi acoperit. Un grup izolat „Tranquility“ va fi calm pentru întregul sistem.

Deci, avem 4 calculator incredibil de puternic pentru baza de date, care conține două din clusterului nostru. Acest lucru ne-a condus la o idee foarte interesantă, ceea ce permite creșterea toleranței la erori.

Virtualizes toate!

Dorim sa cream o ferma de 4 clusterului ESXi cu 4 noduri monstruoasă. Pe partea de sus a hypervisor, vom crea două noastre de cluster SQL-servere, atribuind fiecare nod al clusterului la un server de ESXi - ca și în cazul în care acestea au fost acolo fizic. De fapt, nimic nu se va schimba, dar ...

Beneficiile reale ale acestei vor apărea atunci când (sau „dacă“, ci mai degrabă doar „când“) este unul dintre serverele fizice necesare pentru a deconecta din orice motiv, sau pentru a efectua întreținerea de rutină. În acest caz, clusterul fizică obișnuită a două noduri va rula doar pe un singur nod, și va trebui să treacă degetele în speranța că un nod care este acum-un-foarte-nu se întâmplă nimic. Vom avea nevoie de o mulțime de rugăciuni pios Amarr.

În cazul unei soluții virtuale, putem muta pur și simplu prin vMotion nod de cluster pasiv cu gazda sa ESXi personal la un alt ESXi gazdă (cel care conține nodul pasiv al doilea cluster-ului). și noi în rege! Desigur, gazda cu două noduri pasive vor fi supraîncărcat, dar probleme vor apărea nu mai devreme decât vom pierde mai mult de două-gazdă!

Ca urmare, nu numai că vom obține o protecție suplimentară pentru baze de date cu Windows Failover Clustering, dar, de asemenea, să fie în măsură să supraviețuiască eșecul mai multor componente hardware! Trebuie să-și petreacă o mulțime de teste, dar tehnologia generală este deja cunoscută, astfel că, de fapt, ceea ce ar putea merge prost?

PCC DeNormalized, PCC Hunter, PCC Stephanie și PCC Jolin

Înapoi la cluster!

Detalii tehnice ale „Tranquility“ astăzi și „Tranquility T3“

actualizare de rețea

Până acum am vorbit despre serverele rapid, și abundența de stocare de mare viteză. Dar ceva trebuie să combine toate acestea într-o singură, dar, de asemenea, să se conecteze cu locul în care, de obicei, stocate imagini ridicole cu sigilii (de exemplu, Internetul). În caz contrar, EVE Online va fi complet ... nu on-line.

Eu dau cuvântul echipei noastre de rețea

Cu toate acestea, tehnologia nu este pur și simplu în trepte și a sărit înainte în ultimii șase ani. Este timpul pentru a trimite routerele vechi pe o odihnă bine meritată și să le înlocuiască cu o nouă generație de routere. De dragul de piloți celebri din New Eden, vom folosi din nou cele mai bune dintre cele mai bune echipamente. Nimic altceva „Tranquility“, nu merită!

Mașini noi, cu o capacitate de 120 Gbit / s și de două ori capacitatea de memorie de un ordin mai puternic, permițându-vă să crească numărul asociat cu furnizorii de servicii de contact. Cu memorie suplimentare pe care le stoca precalculate rute de backup BGP pentru fiecare traseu activ, care vă permite să comutați mod greșit pe o înlocuire într-o chestiune de milisecunde. Acest lucru înseamnă că, dacă ceva nu merge bine cu furnizorul de conectat direct la noi, majoritatea jucătorilor, al căror traseu trece prin rețeaua furnizorului de servicii, către un alt furnizor, fără a pierde conexiunea. Noile routere ne va permite de a îmbunătăți conectivitatea și din cauza puterii de memorie și de procesare crescută ne va deschide o risipire de caracteristici noi.

O altă parte fundamentală a infrastructurii de rețea „Tranquillity“ de astăzi de încărcare de echilibrare sunt Cisco ACE 30. Aceste casete sunt foarte dificil de configurat, dar ele dețin un loc special în inimile noastre, iubitoare de înaltă tehnologie. Ele ne permit să aducă rapid la „Tranquillity“ schimbări majore și sunt fiabile ca o stâncă.

Cu toate acestea, în urmă cu câțiva ani, Cisco a părăsit balancers rețea de piață și a părăsit platforma ACE să moară o moarte lentă. De atunci, am experimentat platforme diferite și în cele din urmă a găsit un înlocuitor excelent, care oferă nu numai performanța crescută, dar, de asemenea, oferă noi vozmozhnostti.

Numai în ceea ce privește performanța, noul „Tranquility“, vom crește capacitatea de 16 Gbit / s la 30 Gbit / s, iar numărul maxim de conexiuni simultane a crescut de la patru milioane la-24000000. Noi balancers de rețea nu lasă indiferenți nu numai echipa de operațiuni, dar întregul departament de dezvoltare Eva. Noi frecarea mâinile lor la fel ca kapsulor, pentru prima dată, se așeză pe „Titan“.

conexiunile la rețea

Nu numai că vom actualiza echipamentul, dar, de asemenea, caută noi oportunități pentru a îmbunătăți conexiunea de rețea în ceea ce privește experiența jucătorilor. O inițiativă asociată a fost lansarea unei noi platforme de rutare inteligente pentru optimizarea rutelor BGP. Acest sistem analizează automat atât pierderea de întârziere și de pachete pentru fiecare jucător conectat la „Tranquility“ prin testarea simultană rute pe fiecare atașat la furnizorul nostru furnizor de servicii Internet player. Este transparent pentru utilizator comută conexiunea la cea mai bună cale disponibilă. Compușii activi sunt testați în mod regulat timp de câteva ore. Acest sistem sa dovedit deja că poate, fără întârziere, pentru a ocoli multe obstacole și deconectări de noduri de rețea la valul etern al Internetului. Rapoartele instrument excelent ne va permite să creați o listă de furnizori de servicii care oferă jucătorilor cel mai bun acces la EVE Online.

După cum se poate observa din rezultatele testelor din imaginile de mai sus, platforma inteligentă rutare a îmbunătățit calitatea conexiunii cu mai mult de 7000 de furnizori de rețele din întreaga lume, reducând pierderea de pachete pentru conectarea la „Tranquility“, cu 91%, în cazul în care a avut loc pierderea, precum și 59% cazuri ocolesc site-urile cu handicap de pe Internet. Latența este de asemenea scăzut a scăzut semnificativ cu 20% în mai mult de jumătate din toate conexiunile lente. Aici sunt rezultatele pe care le sunt întotdeauna bucuroși să te văd!

În concluzie, vom continua să extindem cooperarea cu Linx (Londra rețea de schimb), ceea ce ne va permite să se conecteze direct cu un număr mare de furnizori de Internet. Astfel, jucătorii care folosesc aceste servicii furnizorii pot conecta direct la „Tranquility“, fără a trece prin rețea comună inutile în Internet, reducerea numărului de hamei și de a oferi un compus mult mai stabil.

Ne-ar dori să vă spun o mulțime de detalii uimitoare ale noilor noastre jucării (crede-mă, putem vorbi despre ei pentru totdeauna!), Dar experții din departamentul de securitate a spus că acestea ar trebui să fie ținute secrete. Dar! Dar! Dar! Dacă sunteți la următoarea „FanFest“ vizita o masă rotundă cu echipa de operațiuni de specialiști, promitem să ridice ușor vălul de secret și spune un pic despre noua lume minunata imbunatatit conexiunile de rețea de pe internet.

- PCC Lucca și PCC Ciocârlia

Timp de câteva luni, serverele vor rula în paralel la ambele centre. Apoi, când totul este gata, vom trece la server-ul în noua locație și să încerce să facă timpul minim pauză.

Apoi vom derula rapid înainte ce va fi în curând cunoscut sub numele de acasă „Old Tranquility“, în Islanda, în datacenter «Verne Global» (care este alimentat cu energie electrică de la o energie geotermală vulcanică misterioasă). Pe acest server, asamblate din părți ale vechiului „Tranquility“ și adăugările mici, suntem de planificare pentru a aranja toate serverele noastre de testare „Singyuleriti“, „Multiplisiti“ etc.

După aceea vom începe un nou duplicat DB „Tranquility“ de la Londra la Islanda să fi fost o sursă suplimentară în cazul izbucnirii Ragnarok în centrul Angliei.

Departamentul de întreținere emoționat și mândru de proiectul „Tranquility T3“ și valoarea sa de EVE Online, și jucători.

Dar suficient pentru a scrie. E timpul să mă întorc la locul de muncă.

PCC Gunshow, în numele PCC Ops echipe

liniște. GAL-uri. fier. Eve on-line. server. upgrade. gikporno