Miloska
2009-05-05 08:58:11 UTC
Sziasztok,
(ujra)tervezek egy par gepes rendszert es ehhez keresek segitseget /
tanacsot/ otletet / irodalmat / barmit.
Elnezest a hosszu felvezetesert es a kevert angol/magyar
szohasznalatert, bevallom pl. a 'shared storage'-ra nemigen tudok
olyan kifejezest ami pontos es 'jol' is hangzik.
Szolgaltatas:
Van egy program ami tomcat-ben fut, van neki adatbazisa (MySQL),
apache-on keresztul elerheto. Mivel tobb geperol kell egy idoben
futnia es viszonylag sok file-ja van kell valamilyen shared storage
hozza (ezt konkretan a tomcat-es program irja, apache olvassa es
kiszolgalja).
Van hozza ki-be levelezes, bejovo leveleket programok dolgozzak fel,
nincsenek 'igazi' email felhasznalok.
Van egyik gepen felugyeleti rendszer (zabbix).
Gigabit halo, dupla switch, minden gepben ket ethernet, 'hardveres'
loadbalancer (ket node, failover), csomagszuro az egesz elott (szinten
duplazva).
Majdnem minden node Linuxot futtat, a szerverek mindannyian es a
dobozos termekek (loadbalancer, serial server, firewall) is valami
modositott verziot.
Jelenlegi helyzet:
Van 3 szerver amire fel van telepitve a kimeno levelezes, a
program+tomcat+apahce hatmas es a loadbalancer osztja el hogy mi merre
menjen. Ezek a gepek clusterben vannak egy iSCSI dobozon (dell
md3000i, dual controller) van GFS, ez a shared storage.
Jelenleg van ket adatbazis szerver, azok master-master replikacioban
mennek, keves problemaval.
Van meg ket szerver, azokon fut minden egyeb, mint pl a felugyeleti
rendszer, bejovo levelek kezelese, backupok.
Osszesen tehat 7 gep, 2xdual core AMD cpu, 16-24G ram, Tyan barebone,
LSI SAS raid, 4x140G raid10 az adatbazisok alatt es 3x70G raid5 a
tobbiben.
Problemak:
- Tobb kulonallo OS jobb lenne, peldaul ha layer 4 uzemmodban van a
loadbalancer akkor az alkalmazast futtato gep nem lehet emial szerver
mert a csomagok 'martian'-ok lesznek.
- Nehezkes szolgalatatasok mozgatasa egyik hardware-rol masikra.
Minden gepben helyi diskek vannak, ha az egyik pl alaplap hibaval
elszall igen maceras lenne az adatokat kiszedni belole (hosszu
tortenet miert nincs rendes hardware tamogatasunk, de meg azzal egyutt
is elofordulhat adatvesztes, gondolom a hardware-esek az adatokra nem
vallalnak garanciat).
- Meg a jelenlegi mennyisegu szervert ugy-ahogy karban lehet tartani,
de attol tartok ha kicsit is feljebb kuszik a szamuk igen nehez lesz
oket adminisztralni a jelenlegi kezi modszerrel.
- Nincs eleg aram (osszesen 13A a max amit kapunk), igy a gepek szamat
nemigen tudom novelni. A szerverek kb 2 evesek, lassan cserere
erettek.
- Cluster-t tullovesnek erzem csak a GFS miatt, nehezkes hozza gepet
adni/elvenni, jobban orulnek valami NFS feluletnek. Nagy terheles
nincs rajta, de ahogy en latom muszaj, hogy legyen egy shared storage
ha tobb geprol szeretnem ugyanazt a tartalmat kiszolgalni. Ez volt egy
gyors megoldas, de nem volt ido rendesen tesztelni, legtobb leallas
emiatt van (pontosabban a hozzaertes hianya miatt).
Amire en gondoltam:
- Szetvagni az OS-t a hardwertol, vagyis virtualizalni. Csak linuxok
vannak, eddig tapasztalatok alapjan Xen teljesen jol megfelel,
minimalis az eroforras veszteseggel.
- A virtualis gepek legyenek ugyanolyanok (akar read-only nagy
reszuk), amihez irniuk kell irjanak az iSCSI-ra sajat LUN-ba. Ha
valami bedoglik masik HW-n ugyanaz a virtualis gep elindithato es
minden megy tovabb.
- Az iSCSI storage egy LUN-ja ele egy ket node-os clusterbol NFS
szervert rakni ami lehet valami alacsony fogyasztasu gep, jol
kitesztelt fenceing-gel (jelenlegi vasakban pl nincs IMPI). Ez lenne a
shared storage.
- Uj hardware / regi csereje trivialissa valik.
Ez nagyjabol szep es jo, de ebben az esetben drasztikusan megno a
iSCSI doboz szerepe.
Es akkor a kerdesek (eddig volt a bevezetes):
- Hogyan is kellene manapsag hasznalni egy tetszoleges/iSCSI dobozt?
Erdemes barmilyen disket rakni a szerverekbe?
- Milyen megoldasok vannak ez a storage-et backuppolni? Erdemes
barhogy azon kivul, hogy vesz az ember meg egy ugyanolyan dobozt
ugyanattol a gyartotol es ha a gyarto tamogatja tukrozni oket?
- Milyen a jo storage? Mik azok a funkciok amikre erdemes figyelni?
- Ha virtualizalok hol legyen az VM-ek? Altalaban, hogy erdemes ezt
jol csinalni? Lenne mondjuk 5 fele VM, egy szolgaltatas per VM. Az
lenne a cel, hogy konnyen lehessen uj VM-et elinditani / leallitani /
eroforrast atmeretezni.
- Stateless Linux mennyire lenne jo arra amit en kb kigondoltam?
Milyen egyeb megoldasok leteznek? Kell-e nekem egyaltalan ez vagy csak
tulbonyolitom?
- Van-e valami egyszerubb megoldas a shared storage problemara mint
egy ket node-os NFS gateway? Ezeket cluster+GFS-ben celszerubb hajtani
vagy csak pl heartbeat-tel kapcsolgatni ide-oda es akkor nem kell
cluster filesystem?
- Milyen gyokeresen mas megoldasok vannak a felsorolt problemakra?
Hogy erdemes mondjuk 10-20 Linux OS-t futtatni, karban tartani, stb?
Elore is koszonok minden valaszt,
udv
Honti Miklos
(ujra)tervezek egy par gepes rendszert es ehhez keresek segitseget /
tanacsot/ otletet / irodalmat / barmit.
Elnezest a hosszu felvezetesert es a kevert angol/magyar
szohasznalatert, bevallom pl. a 'shared storage'-ra nemigen tudok
olyan kifejezest ami pontos es 'jol' is hangzik.
Szolgaltatas:
Van egy program ami tomcat-ben fut, van neki adatbazisa (MySQL),
apache-on keresztul elerheto. Mivel tobb geperol kell egy idoben
futnia es viszonylag sok file-ja van kell valamilyen shared storage
hozza (ezt konkretan a tomcat-es program irja, apache olvassa es
kiszolgalja).
Van hozza ki-be levelezes, bejovo leveleket programok dolgozzak fel,
nincsenek 'igazi' email felhasznalok.
Van egyik gepen felugyeleti rendszer (zabbix).
Gigabit halo, dupla switch, minden gepben ket ethernet, 'hardveres'
loadbalancer (ket node, failover), csomagszuro az egesz elott (szinten
duplazva).
Majdnem minden node Linuxot futtat, a szerverek mindannyian es a
dobozos termekek (loadbalancer, serial server, firewall) is valami
modositott verziot.
Jelenlegi helyzet:
Van 3 szerver amire fel van telepitve a kimeno levelezes, a
program+tomcat+apahce hatmas es a loadbalancer osztja el hogy mi merre
menjen. Ezek a gepek clusterben vannak egy iSCSI dobozon (dell
md3000i, dual controller) van GFS, ez a shared storage.
Jelenleg van ket adatbazis szerver, azok master-master replikacioban
mennek, keves problemaval.
Van meg ket szerver, azokon fut minden egyeb, mint pl a felugyeleti
rendszer, bejovo levelek kezelese, backupok.
Osszesen tehat 7 gep, 2xdual core AMD cpu, 16-24G ram, Tyan barebone,
LSI SAS raid, 4x140G raid10 az adatbazisok alatt es 3x70G raid5 a
tobbiben.
Problemak:
- Tobb kulonallo OS jobb lenne, peldaul ha layer 4 uzemmodban van a
loadbalancer akkor az alkalmazast futtato gep nem lehet emial szerver
mert a csomagok 'martian'-ok lesznek.
- Nehezkes szolgalatatasok mozgatasa egyik hardware-rol masikra.
Minden gepben helyi diskek vannak, ha az egyik pl alaplap hibaval
elszall igen maceras lenne az adatokat kiszedni belole (hosszu
tortenet miert nincs rendes hardware tamogatasunk, de meg azzal egyutt
is elofordulhat adatvesztes, gondolom a hardware-esek az adatokra nem
vallalnak garanciat).
- Meg a jelenlegi mennyisegu szervert ugy-ahogy karban lehet tartani,
de attol tartok ha kicsit is feljebb kuszik a szamuk igen nehez lesz
oket adminisztralni a jelenlegi kezi modszerrel.
- Nincs eleg aram (osszesen 13A a max amit kapunk), igy a gepek szamat
nemigen tudom novelni. A szerverek kb 2 evesek, lassan cserere
erettek.
- Cluster-t tullovesnek erzem csak a GFS miatt, nehezkes hozza gepet
adni/elvenni, jobban orulnek valami NFS feluletnek. Nagy terheles
nincs rajta, de ahogy en latom muszaj, hogy legyen egy shared storage
ha tobb geprol szeretnem ugyanazt a tartalmat kiszolgalni. Ez volt egy
gyors megoldas, de nem volt ido rendesen tesztelni, legtobb leallas
emiatt van (pontosabban a hozzaertes hianya miatt).
Amire en gondoltam:
- Szetvagni az OS-t a hardwertol, vagyis virtualizalni. Csak linuxok
vannak, eddig tapasztalatok alapjan Xen teljesen jol megfelel,
minimalis az eroforras veszteseggel.
- A virtualis gepek legyenek ugyanolyanok (akar read-only nagy
reszuk), amihez irniuk kell irjanak az iSCSI-ra sajat LUN-ba. Ha
valami bedoglik masik HW-n ugyanaz a virtualis gep elindithato es
minden megy tovabb.
- Az iSCSI storage egy LUN-ja ele egy ket node-os clusterbol NFS
szervert rakni ami lehet valami alacsony fogyasztasu gep, jol
kitesztelt fenceing-gel (jelenlegi vasakban pl nincs IMPI). Ez lenne a
shared storage.
- Uj hardware / regi csereje trivialissa valik.
Ez nagyjabol szep es jo, de ebben az esetben drasztikusan megno a
iSCSI doboz szerepe.
Es akkor a kerdesek (eddig volt a bevezetes):
- Hogyan is kellene manapsag hasznalni egy tetszoleges/iSCSI dobozt?
Erdemes barmilyen disket rakni a szerverekbe?
- Milyen megoldasok vannak ez a storage-et backuppolni? Erdemes
barhogy azon kivul, hogy vesz az ember meg egy ugyanolyan dobozt
ugyanattol a gyartotol es ha a gyarto tamogatja tukrozni oket?
- Milyen a jo storage? Mik azok a funkciok amikre erdemes figyelni?
- Ha virtualizalok hol legyen az VM-ek? Altalaban, hogy erdemes ezt
jol csinalni? Lenne mondjuk 5 fele VM, egy szolgaltatas per VM. Az
lenne a cel, hogy konnyen lehessen uj VM-et elinditani / leallitani /
eroforrast atmeretezni.
- Stateless Linux mennyire lenne jo arra amit en kb kigondoltam?
Milyen egyeb megoldasok leteznek? Kell-e nekem egyaltalan ez vagy csak
tulbonyolitom?
- Van-e valami egyszerubb megoldas a shared storage problemara mint
egy ket node-os NFS gateway? Ezeket cluster+GFS-ben celszerubb hajtani
vagy csak pl heartbeat-tel kapcsolgatni ide-oda es akkor nem kell
cluster filesystem?
- Milyen gyokeresen mas megoldasok vannak a felsorolt problemakra?
Hogy erdemes mondjuk 10-20 Linux OS-t futtatni, karban tartani, stb?
Elore is koszonok minden valaszt,
udv
Honti Miklos