Postavit si diskove pole na linuxu

Michal Krajcirovic konference na kraja.net
Pondělí Leden 19 01:34:43 CET 2009


Ahoj,
moje prakticka zkusenost, lowcost varianta:

pole (v podobe jednoho quadcore cpu - zbytecnej, stacil by dual, 4gb ram 
a 2x 500 + 2x 320 disku), k nemu se pripojuji:
- 2x webserver (oba odbavuji kolem 150 tisic UIP denne, pres 4M pageviews)
- 1x server s vps (nekde sem cetl ze je to dost drsna varianta mit 
fyzicky ty data vps na jinem stroji, nevim, me to jeste nespadlo).
- samotne vps do nekterych adresaru (napr. jedna domena ma >50k schranek 
v postfixu, coz na ext3 co tam byla neudelam na jedne urovni (limit 
32k), takze tam je namountovany jiny disk s xfs) atd.

pro vsechny propoje pouzivam nfs. stabilni, nikdy mi nespadlo (3/4 roku 
to bezi, zatez samozrejme pribyva, na zacatku byla nulova).

Ted par technickych fakt
- pole je zapojeno dvema sitovkama do switche, na jedne ma verejnou ip 
(pouze za ucelem aby se mi tam snadno lezlo, vpn sem jeste nebyl schopen 
rozchodit - resp. dokopat se k tomu :-) ), na druhe ma sit z neverejneho 
rozsahu
- vsechny servery maji dve sitovky, vsechny pichle do toho stejneho 
switche (do budoucna pocitam s druhym), vsechny nfs spoje jsou v lokalni 
siti pres vyhrazenou lan (netvrdim ze je rozdil vykonove mezi tim kdyby 
to slo po verejne, rovnou jsem to delal takhle kvuli budoucimu zvysovani 
se zateze a moznosti to pak snadno oddelit do druheho switche)
- exportuju jednotlivym serverum jednotlive casti disku (cili napr. 
webserverum /home/www/), vps materskymu stroji /home/vps/ a jednotlivym 
vps treba druhej disk jako /mnt/vps/mail-xfs/). fs je vzdy udelany primo 
na poli
- naprosto se neosvedcilo na poli ukladat sesny (kdyz sem jeste slovo 
loadbalancing povazoval za sproste a resil to vice ip pro jedno name v 
dns, tak jsem resil jak mezi tema dvouma webserverama sdilet sesny a 
nenapadlo me nic lepsiho, nez si je ukladat na poli. napad jako takovy 
neni spatny, akorad je tam phpcko ci apache neodmazavalo a pri par 
milionech souboru sem na webserveru, nyni s loadem ~5 videl i load 1200+)
- tok ve smeru z pole je podle muninu kolem 50Mbps, coz je cca stabilni 
spickovy tok

Naklady:
- bezim to na inteli desce (sr3000ah nebo tak nejak se jmenuje to 1Ucko, 
do kteryho to cpou jako do platformy, da se koupit i samosattne) - ~5tis
- 2x wd 500g + 2x wd 320g - ~10k
- quad cpu - ~5k
- 4gb ram - ~2k
-> 22k+case (strilim hodne od pasu :) )

dalsi vec co aktualne resim je replikace dat, zatim si hraju s drbd ale 
nevim, zdali je to to idealni, to se uvidi...

mk


Dalibor Straka napsal(a):
> Ahoj,
>
> doposud jsem s setkal jen (a) s velmi drahymi poli za nekolik milionu
> pripojenych optikou i-scsi pres zvlastni kartu do serveru nebo (b)
> s nevyhovujicim primountovanim samba/nfs k serveru, protoze mi
> vytuhava (zato zcela spolehlive).
>
> Chtel bych si postavit diskove pole na linuxu, vytvorit raid(y) a
> pridelovat serverum. V cem bych si nechal poradit
> - je vhodne exportovat "syrovy virtualni disk"?
>   (mam na mysli raid -> lvm -> export bez filesystemu)
> - jakym protokolem pripojit disky? Pripadne vice vhodnych.
> - staci mit druhou sitovku a pripojit pole pres ethernet nebo
>   radeji koupit nejakou specielni kartu za rozumny peniz?
> - pouzit vice cestne pripojeni (vice karet, vice ethernetu)?
>
> Co od pole ocekavam?
> - male prenosy dat, nic co by neutahl jeden disk na serveru
> - neni nutna redundance
> - nizka cena za pripadne karty (hw s linuxem a diskama mam)
> - dobrou skalovatelnost, rozsiritelnost, ale tam uz si poradim
> - nevadi mi chvilkove pozastaveni pole pri delani snapshotu apod.
>
> Diky za rady,
> -- Dalibor Straka
> P.S. Nemam prilis rad zkratky nas/san, toto by mel byt typ san.
> _______________________________________________
> Linux mailing list
> Linux na linux.cz
> http://www.linux.cz/mailman/listinfo/linux
>
>   




Další informace o konferenci Linux