Gagnageymslu/RAID hugleiðingar

Skjámynd

Höfundur
Hannesinn
Gúrú
Póstar: 583
Skráði sig: Þri 24. Sep 2002 16:48
Reputation: 80
Staðsetning: Reykjavík
Staða: Ótengdur

Gagnageymslu/RAID hugleiðingar

Pósturaf Hannesinn » Þri 17. Feb 2015 23:47

Ég er í smá hugleiðingum. Ég er semsé með 4 nokkuð stóra diska (sama stærð/framleiðandi/firmware) og ég er að hugsa um hvort ég eigi að:

a.) setja þá alla saman í RAID5
b.) setja tvo í RAID1 (mirror) og tvo í RAID0 (stripe)/jbod
c.) hvort ég eigi að sleppa því að RAID'a þá yfir höfuð og taka bara vikulega kalt afrit af því sem skiptir máli á annan external disk.

Hugmyndin er semsé að keyra Owncloud og þangað myndi fara ljósmyndasafn, persónuleg gögn og annað tilfallandi. Svo er mest af þessum stóru gögnum bara afþreying, sem "þarf" ekki afrit af en en væri auðvitað skemmtilegra að eiga áfram við bilun.

Mér hugnast reyndar síst hugmynd b.), þar sem hún gengur aðallega á að hafa "skýjagögnin" á mirror, en það ver þau ekki fyrir rm -fr, og þar sem þetta eru ekki gögn sem þurfa að vera aðgengileg 24/7, þá þætti mér mun sniðugra að nota annan diskinn frekar í kalt afrit en spegil.

Ég mun nokkuð örugglega setja þetta upp á Linux, líklega Fedora eða CentOS jafnvel, en það er svosem ekkert ritað í stein. Tölvan verður ekki eingöngu skráarþjónn, hún verður til að mynda tengd við sjónvarpið.
Móðurborðið er Gigabyte GA-P35-DS3R og því er Intel 82801IR/IO/IH (ICH9R/DO/DH) 6 port SATA Controller, 8GB minni og Q9550 örgjörvi, semsé skítþokkalegasta græja.

Mér þætti vænt um að fá ykkar skoðun og hvernig þið eruð að gera þetta. Samhliða því kannski hugmynd um hvort að svona semi-software RAID setji mikið álag á örgjörvann og hvort það borgi sig að fá sér hardware RAID controller.

Með fyrirfram þökkum,
V.


Enjoy your job, make lots of money, work within the law. Choose any two.

Skjámynd

nidur
/dev/null
Póstar: 1454
Skráði sig: Fim 18. Ágú 2011 16:50
Reputation: 226
Staðsetning: In the forest
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf nidur » Mið 18. Feb 2015 00:46

Mér skilst að raid5 sé dautt, þeas. það á ekki að nota það á diska stærri en 2tb.

Ef ég væri þú þá myndi ég fara með option C, einfaldast.

Áhugavert þetta með owncloud, sé að freenas er með plugin fyrir það en hef ekki prófað, þarf að koma mér í það.


Everyone knows the phrases "time is money" and "money is power". That naturally concludes that time is also power. Time gives you the ability to learn how to do things, but people don't want the power in today's world. They want their time and money.

Skjámynd

Gúrú
Bannaður
Póstar: 5677
Skráði sig: Fös 17. Mar 2006 23:08
Reputation: 1
Staðsetning: ;)
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf Gúrú » Mið 18. Feb 2015 02:00

Upp á gagnaöryggi á að forðast RAID5 á stórum diskum.

Uppsetningin mín er sambærilegust við valmöguleika C) og ég er bara mjög sáttur með þá uppsetningu. Nota bara Windows Backup.


Modus ponens

Skjámynd

Höfundur
Hannesinn
Gúrú
Póstar: 583
Skráði sig: Þri 24. Sep 2002 16:48
Reputation: 80
Staðsetning: Reykjavík
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf Hannesinn » Mið 18. Feb 2015 09:48

Ég verð að viðurkenna að ég skil ekki alveg hvert þið eruð að fara. RAID5 er langt í frá dautt, og tilgangur þess er einmitt að veita gagnaöryggi. Hins vegar, þá þekki ég ekkert heimaútfærslurnar af þessu og er því að spyrja hérna. :)


Enjoy your job, make lots of money, work within the law. Choose any two.


fedora1
Vélbúnaðarníðingur
Póstar: 300
Skráði sig: Sun 20. Jún 2010 23:05
Reputation: 8
Staðsetning: Rvk.
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf fedora1 » Mið 18. Feb 2015 11:31

Ég er með raid 5 fyrir 4x3TB diska og virkar fínt. Það er auðvitað séns ef 1 diskur fer, að annar fari meðan þú ert að rebuilda raid 5 með hotspare/nýjum disk, og þá er hægt að hafa raid6 sem þolir að missa 2 diska, en þetta fer svolítið eftir hversu paranoid þú ert og hvað þú tímir að eyða í parity.



Skjámynd

Höfundur
Hannesinn
Gúrú
Póstar: 583
Skráði sig: Þri 24. Sep 2002 16:48
Reputation: 80
Staðsetning: Reykjavík
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf Hannesinn » Mið 18. Feb 2015 11:36

fedora1 skrifaði:Ég er með raid 5 fyrir 4x3TB diska og virkar fínt. Það er auðvitað séns ef 1 diskur fer, að annar fari meðan þú ert að rebuilda raid 5 með hotspare/nýjum disk, og þá er hægt að hafa raid6 sem þolir að missa 2 diska, en þetta fer svolítið eftir hversu paranoid þú ert og hvað þú tímir að eyða í parity.

Ekkert svo paranoid. :)
En ertu að nota hardware RAID controller, og ef ekki, er ásættanlegt álag á örgjörvann að software-raida svona?


Enjoy your job, make lots of money, work within the law. Choose any two.


toybonzi
Ofur-Nörd
Póstar: 237
Skráði sig: Fim 17. Feb 2011 13:50
Reputation: 4
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf toybonzi » Mið 18. Feb 2015 11:38

Eina málið með raid5 og stóra diska er eins og komið hefur verið inn á áður....tími í rebuild og ef svo ílla færi að annar diskur færi í þeim fasa þá er raidið fubar :)




AntiTrust
Stjórnandi
Póstar: 6354
Skráði sig: Þri 19. Ágú 2008 20:58
Reputation: 161
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf AntiTrust » Mið 18. Feb 2015 14:03

Persónulega segi ég RAID5 + backup af því sem skiptir þig verulegu máli yfir í e-rja offsite þjónustu/Cloud. Software raid er alltaf að fara að taxa CPU e-ð en aldrei þannig að vélin verði ónothæf sem HTPC, ekki nema í allra versta falli í rebuild mode.



Skjámynd

nidur
/dev/null
Póstar: 1454
Skráði sig: Fim 18. Ágú 2011 16:50
Reputation: 226
Staðsetning: In the forest
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf nidur » Mið 18. Feb 2015 19:40

Ef þú tapar disk þá er eftirfarandi nokkuð rétt, Stripe(gögnin töpuð), Raid5(smá sjens að bjarga gögnum), Raid6(meiri sjens á að bjarga gögnum)

Ég persónulega myndi ekki nota stripe/raid5 nema að mér sé sama um það sem er á diskunum. Persónulega þá nota ég raid6(raidz2) til að hafa 2 diska í backup og ég scruba poolið hjá mér 1x í mánuði til að fara yfir að gögnin séu í lagi, sem ein af aðalástæðunum fyrir því að ég skipti yfir í ECC minni.

En setupið hjá mér er þannig að Fileserverinn er í raun backup fyrir mína vél sem er með stökum disk og vikulegu automatic backup.


Everyone knows the phrases "time is money" and "money is power". That naturally concludes that time is also power. Time gives you the ability to learn how to do things, but people don't want the power in today's world. They want their time and money.

Skjámynd

Revenant
</Snillingur>
Póstar: 1034
Skráði sig: Fim 24. Jún 2004 12:36
Reputation: 132
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf Revenant » Mið 18. Feb 2015 20:21

Það er verður að passa sig á í RAID-5 setup-i er að líkur á lesvillum aukast því stærri diskar sem eru notaðir. Ef það koma upp lesvillur á disknum þá getur það komið í veg fyrir að array-ið geti klárað rebuild-ið.

Ef þú hefur valkost á því þá mæli ég frekar með hardware raid-i framar en software raid-i. Hardware raid-ið er "einfaldara" í notkun heldur en software raid (þarft að vera frekar öruggur að setja upp software raid og manage-a það).

Það er líka valkostur að hafa 4 sjálfstæða diska (ekkert raid/jbod) og notast við semi-sjálfvirk afritunartól (t.d. robocopy sem kemur með windows eða rsync ef þú ert með linux). Þá væri hægt að hafa schedule að afrita t.d. 1x á dag sem ver þig fyrir diskabilun og "rm -rf".

Það eru kostir og gallar við allar afritunaraðferðir og spurningin er oftast hvað afritunarþörfin er mikil, hversu aðgengileg gögnin þurfa að vera og hvað er ásættanlegur "niðritími".



Skjámynd

KermitTheFrog
Kóngur
Póstar: 4273
Skráði sig: Mán 07. Júl 2008 23:32
Reputation: 67
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf KermitTheFrog » Mið 18. Feb 2015 20:25

nidur skrifaði:Raid5(smá sjens að bjarga gögnum),


Það er nú aðeins meiri séns en smá að bjarga gögnum.



Skjámynd

nidur
/dev/null
Póstar: 1454
Skráði sig: Fim 18. Ágú 2011 16:50
Reputation: 226
Staðsetning: In the forest
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf nidur » Mið 18. Feb 2015 20:42

KermitTheFrog skrifaði:
nidur skrifaði:Raid5(smá sjens að bjarga gögnum),


Það er nú aðeins meiri séns en smá að bjarga gögnum.


Það er samt alltaf meiri séns á því að bjarga þeim í Raid6 og með stórum diskum og engu scrub/athugun á gögnum, þá versna sénsarnir á því að bjarga gögnum af Raid5 stæðum þegar þær eldast.

Hérna er áhugaverð grein sem fólki er bent á að lesa til að kynna sér Raid5 betur.
http://www.zdnet.com/article/why-raid-5 ... g-in-2009/

Vissulega eru margir sem segja að Raid5 sé bara fínt og líkurnar séu ekki eins slæmar og koma fram í þessari grein. En þegar maður er að ræða um gagnaöryggi þá er betra að gera sér grein fyrir hættunni.

Einnig eru sumir sem setja upp mirror en komast að því þegar á reynir að mirrorinn dó fyrir löngu en enginn var að fylgjast með. Það var ein Raid5 sem ég var að gera við um daginn, 2x diskar fóru, seinni þegar rebuild var í gangi, náði að þvinga hann aftur inn í command line og bjarga 50% af gögnum.


Everyone knows the phrases "time is money" and "money is power". That naturally concludes that time is also power. Time gives you the ability to learn how to do things, but people don't want the power in today's world. They want their time and money.


fedora1
Vélbúnaðarníðingur
Póstar: 300
Skráði sig: Sun 20. Jún 2010 23:05
Reputation: 8
Staðsetning: Rvk.
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf fedora1 » Mið 18. Feb 2015 21:48

Hannesinn skrifaði:
fedora1 skrifaði:Ég er með raid 5 fyrir 4x3TB diska og virkar fínt. Það er auðvitað séns ef 1 diskur fer, að annar fari meðan þú ert að rebuilda raid 5 með hotspare/nýjum disk, og þá er hægt að hafa raid6 sem þolir að missa 2 diska, en þetta fer svolítið eftir hversu paranoid þú ert og hvað þú tímir að eyða í parity.

Ekkert svo paranoid. :)
En ertu að nota hardware RAID controller, og ef ekki, er ásættanlegt álag á örgjörvann að software-raida svona?


Ég nota software raid linux md og mæli frekar með því. Ef þú ert með hardware radi og kortið fer, þá þarftu væntanleg að finna nánast eins kort til að komast í diskana aftur, með md lausninni er ekkert mál að flyja diskana á milli tölva. Ég er með diskana encryption ofan á md array-ið og er með 2.4G Pentium 2 örgjörfa og virkar ágætlega sem fileserver ( diskanir performa samt ekkert sérstaklega ef verið er að afrita mikið).



Skjámynd

Gúrú
Bannaður
Póstar: 5677
Skráði sig: Fös 17. Mar 2006 23:08
Reputation: 1
Staðsetning: ;)
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf Gúrú » Fim 19. Feb 2015 01:42

Revenant skrifaði:Það er verður að passa sig á í RAID-5 setup-i er að líkur á lesvillum aukast því stærri diskar sem eru notaðir. Ef það koma upp lesvillur á disknum þá getur það komið í veg fyrir að array-ið geti klárað rebuild-ið.


Rétt. Með uppsetningu eins og RAID5 aukast líkurnar á því að array geti ekki rebuildað því stærra sem það er.

Með tilkomu risastórra diska er hægt að búa til risastór array en því miður eru diskarnir ekki orðnir nákvæmari sem nemur
því svo hættan er til staðar og er mun meiri en hún var.


Modus ponens

Skjámynd

Höfundur
Hannesinn
Gúrú
Póstar: 583
Skráði sig: Þri 24. Sep 2002 16:48
Reputation: 80
Staðsetning: Reykjavík
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf Hannesinn » Fim 19. Feb 2015 12:36

Mér sýnist greinin sem "nidur" vísar í hér fyrir ofan vera óttalegt heimsósómaraus, þó hún sé ekki beint röng. Það eru komin skráarkerfi sem gera ráð fyrir þessu bitrot (eða ure), eins og ZFS, sem verifyar gögnin þegar þau eru skrifuð og ef svo vill til að það klikkar, þá finnst bitrotið (eða ure) við fs scrub þar sem ósamræmið finnst í parity'inu.

Einnig eru oft stillingar í RAID controllerum um að halda bara áfram við svona lesvillur og því væri bara viðkomandi biti rangur og þessi eina skrá biluð eða ónýt, en ekki allt RAID'ið.

Ég skal viðurkenna að ég er ekki mikið nær ákvörðun, en ZFS virðist vera augljósa niðurstaðan, alveg sama hvort ég RAID'a þetta saman eða ekki.


Enjoy your job, make lots of money, work within the law. Choose any two.


AntiTrust
Stjórnandi
Póstar: 6354
Skráði sig: Þri 19. Ágú 2008 20:58
Reputation: 161
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf AntiTrust » Fim 19. Feb 2015 12:42

ZFS er mjög solid, en getur verið ótrúlega resource frekt. Fyrir 'mission critical' gögn myndi ég notast við ZFS, en fyrir media og annað er það IMO overkill.



Skjámynd

Höfundur
Hannesinn
Gúrú
Póstar: 583
Skráði sig: Þri 24. Sep 2002 16:48
Reputation: 80
Staðsetning: Reykjavík
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf Hannesinn » Fim 19. Feb 2015 12:46

AntiTrust skrifaði:ZFS er mjög solid, en getur verið ótrúlega resource frekt. Fyrir 'mission critical' gögn myndi ég notast við ZFS, en fyrir media og annað er það IMO overkill.

Hvernig þá resource frekt? Tekur mikið af plássinu eða pínir CPU'ið?


Enjoy your job, make lots of money, work within the law. Choose any two.

Skjámynd

nidur
/dev/null
Póstar: 1454
Skráði sig: Fim 18. Ágú 2011 16:50
Reputation: 226
Staðsetning: In the forest
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf nidur » Fim 19. Feb 2015 12:52

Það notar aðalega mikið RAM þessvegna vill maður vera með Ecc.


Everyone knows the phrases "time is money" and "money is power". That naturally concludes that time is also power. Time gives you the ability to learn how to do things, but people don't want the power in today's world. They want their time and money.


AntiTrust
Stjórnandi
Póstar: 6354
Skráði sig: Þri 19. Ágú 2008 20:58
Reputation: 161
Staða: Ótengdur

Re: Gagnageymslu/RAID hugleiðingar

Pósturaf AntiTrust » Fim 19. Feb 2015 12:55

Tekur mjög mikið RAM og þegar kemur að því að stækka poolið þá þarftu annaðhvort að skipta öllum diskum út fyrir stærri diska, einum í einu, eða búa til nýtt 'vdev' og þar með fórna alltaf einum disk í nýtt raidz. Þori reyndar ekki alveg að fara með það hvort það gildir líka yfir mirror og stripe.

Myndi skoða þetta fyrir ZFS HW recommendations og þetta fyrir stutta ZFS expansion útskýringu.