[Dienstmededeling] Database weer verhuisd

Moderators: Polly, Muiz, NadjaNadja, Telpeva, Essie73, ynskek, Ladybird

Toevoegen aan eigen berichten
 
 
Sundancer

Berichten: 9707
Geregistreerd: 21-03-01
Woonplaats: Somewhere in The Netherlands.

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 27-09-06 22:04

Ja allemaal leuk en aardig, maar zoals ik zei, wil niet afhankelijk zijn. Want als er onenigheid is dan moet je alles terug brengen.

Bas232

Berichten: 1088
Geregistreerd: 18-11-03
Woonplaats: Heppen, Belgie, Europa

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 27-09-06 22:05

Sundancer schreef:
Er moet toch een manier zijn dat het zonder geld kan Joost?

Kreeg laatst een aanbod, ik mocht een server "hebben" maar dan moest wel wel een bannertje staan op de site. Ik heb dit niet gedaan omdat ik niet afhankelijk wil zijn van andere mensen.

Verder toppie dat Bokt weer draait. Vork


Was ik dat niet? Clown

Sundancer

Berichten: 9707
Geregistreerd: 21-03-01
Woonplaats: Somewhere in The Netherlands.

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 27-09-06 22:06

Bas232 schreef:
Sundancer schreef:
Er moet toch een manier zijn dat het zonder geld kan Joost?

Kreeg laatst een aanbod, ik mocht een server "hebben" maar dan moest wel wel een bannertje staan op de site. Ik heb dit niet gedaan omdat ik niet afhankelijk wil zijn van andere mensen.

Verder toppie dat Bokt weer draait. Vork


Was ik dat niet? Clown


Nee Bas, jij hebt iid ook aangeboden. Dit was dat ik echt een eigen server had. Duivel

Bas232

Berichten: 1088
Geregistreerd: 18-11-03
Woonplaats: Heppen, Belgie, Europa

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 27-09-06 22:08

Sundancer schreef:
Bas232 schreef:
Was ik dat niet? Clown


Nee Bas, jij hebt iid ook aangeboden. Dit was dat ik echt een eigen server had. Duivel


Ja sorry Tony, ik had die even niet in de aanbieding Haha!

BartVB
Eigenaar

Berichten: 42314
Geregistreerd: 08-01-01
Woonplaats: Arnhem

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst door de TopicStarter : 27-09-06 22:24

De webserver zit met 800 users op 5% idle. Je kan met wat optimalisaties vast nog wel wat extra snelheid uit het systeem krijgen maar veel meer dan een paar procent is dat dan niet. Als de server nu al helemaal vol zit (al overvol eigenlijk als je meer dan 2 seconde op een pagina moet wachten) dan gaat MySQL daar never nooit niet bijpassen Lachen Bokt.nl op 1 van de huidige servers gaat gewoon niet lukken.

Maar eens kijken of er iets te regelen is met Ime (hij heeft een backup server achter de hand voor het e.e.a.) of kijken of we een extra server bij kunnen prikken die zowel MySQL als Apache dubbel draait. Maar goed, dat kost dus een hoop geld voor het voorkomen van een paar uur ongemak per jaar. Een server gesponsored krijgen is vast een optie maar dan zit je idd met dat afhankelijkheidsprobleem waar ik erg weinig zin in heb...

SplashIsLief

Berichten: 33129
Geregistreerd: 01-01-04
Woonplaats: Loon op Zand

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 27-09-06 22:27

Wat balen Bart Ach gut
Op het moment merk ik alleen dat ik (nog?) geen mails krijg

Sundancer

Berichten: 9707
Geregistreerd: 21-03-01
Woonplaats: Somewhere in The Netherlands.

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 27-09-06 22:32

BartVB schreef:
De webserver zit met 800 users op 5% idle. Je kan met wat optimalisaties vast nog wel wat extra snelheid uit het systeem krijgen maar veel meer dan een paar procent is dat dan niet. Als de server nu al helemaal vol zit (al overvol eigenlijk als je meer dan 2 seconde op een pagina moet wachten) dan gaat MySQL daar never nooit niet bijpassen Lachen Bokt.nl op 1 van de huidige servers gaat gewoon niet lukken.

Maar eens kijken of er iets te regelen is met Ime (hij heeft een backup server achter de hand voor het e.e.a.) of kijken of we een extra server bij kunnen prikken die zowel MySQL als Apache dubbel draait. Maar goed, dat kost dus een hoop geld voor het voorkomen van een paar uur ongemak per jaar. Een server gesponsored krijgen is vast een optie maar dan zit je idd met dat afhankelijkheidsprobleem waar ik erg weinig zin in heb...



Afgod

Hulde aan Bart Haha!

Bas232

Berichten: 1088
Geregistreerd: 18-11-03
Woonplaats: Heppen, Belgie, Europa

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 27-09-06 23:02

BartVB schreef:
De webserver zit met 800 users op 5% idle. Je kan met wat optimalisaties vast nog wel wat extra snelheid uit het systeem krijgen maar veel meer dan een paar procent is dat dan niet. Als de server nu al helemaal vol zit (al overvol eigenlijk als je meer dan 2 seconde op een pagina moet wachten) dan gaat MySQL daar never nooit niet bijpassen Lachen Bokt.nl op 1 van de huidige servers gaat gewoon niet lukken.

Maar eens kijken of er iets te regelen is met Ime (hij heeft een backup server achter de hand voor het e.e.a.) of kijken of we een extra server bij kunnen prikken die zowel MySQL als Apache dubbel draait. Maar goed, dat kost dus een hoop geld voor het voorkomen van een paar uur ongemak per jaar. Een server gesponsored krijgen is vast een optie maar dan zit je idd met dat afhankelijkheidsprobleem waar ik erg weinig zin in heb...


Sorry Bart, maar je kijkt teveel naar de Idle tijd....dat is geen maat.
Je moet kijken naar de load-average, die getallen zijn van belang.
Ik weet dat je veel users hebt, maar ik ben 100% zeker dat ik het op 1 server wel gedaan krijg.
Je heb memory genoeg, ik dacht 4GB per server.
Ik weet niet hoeveel en welke harddisk je hebt, maar met 8MB cache harddisks moet het lukken.
Als je load average hoger is dan ongeveer 1.50 (vergeet spikes) dan is het mis, want je load average moet gemiddeld 1 zijn per CPU, dus als je 2 CPU's hebt mag het oplopen tot 2.0 a 2.50.
Bovendien moet je vermijden dat het systeem begint te swappen, want swappen kost enorm veel tijd, maar dat wist je reeds.
Ik ken SMF fora die net zoveel posts hebben als jij met een traffiek die gelijk is, en die doen het met een simpele P4-3GHz zonder al te veel problemen.
En dan te bedenken dat jouw AMD64 veel sneller is.
Het gaat er bij mij echt niet in dat Bokt niet op 1 AMD64 server lopen kan, want dat moet perfect gaan.
Op mijn server lopen een 40 tal websites, AMD64 2.2GHz (FX-51 maar toch) en er zit er 1 bij die regelmatig de server tot de max belast, en toch hebben de andere websites er totaal geen last van.
Noch dat de boel crashed.
Ik moet er wel even bijzeggen dat die server loopt op Debian 64bit ETCH, vermoedelijk draai jij met Debian 32bit Testing of mischien zelfs Stable, maar dat denk ik niet omdat Stable heel erg achter loopt.
Ik daag je uit, aangezien je 3 servers hebt en er 2 gebruikt (toch?), kan je er 1 testen tesamen met mij om een volledige bokt op te zetten en het te configureren....lukt het me niet, krijg je een bak bier van me Haha! (wel dan geef jij er een).
1 AMD64 moet Bokt gemakkelijk als dedicated server kunnen draaien, mag geen enkel probleem zijn....zelfs met 800 users en een snelle response tijd.
Mail me anders even je Apche2.conf en mysql.cnf, ik zou die graag eens bekijken.
Wat aangaande de crashes, ik vrees dat je met je tabellen wel eens op de 4GB limiet van 32 bit zou kunnen zitten.
Waar Debian 64bit ongeveer 18TB ruimte heeft.
Ik kan me zomaar indenken dat je 17mil posts tabel wel eens richting de max zou kunnen gaan van wat 32bit aankan, met alle gevolgen van dien.
Verder zou ik graag eens je sensor waardes willen zien, heb je die geinstalleerd?
Die van mij zien er zo uit:

multi1:~# sensors
w83627thf-isa-0290
Adapter: ISA adapter
VCore: +1.55 V (min = +0.94 V, max = +0.96 V)
+12V: +11.73 V (min = +10.82 V, max = +13.19 V)
+3.3V: +3.26 V (min = +3.14 V, max = +3.47 V)
+5V: +5.04 V (min = +4.75 V, max = +5.25 V)
-12V: -14.91 V (min = -10.80 V, max = -13.18 V)
V5SB: +5.00 V (min = +4.76 V, max = +5.24 V)
VBat: +3.39 V (min = +2.40 V, max = +3.60 V)
fan1: 3879 RPM (min = 20454 RPM, div = 2)
CPU Fan: 6308 RPM (min = -1 RPM, div = 2)
fan3: 0 RPM (min = 675000 RPM, div = 2)
CPU Temp: +36°C (high = +85°C) sensor = diode
M/B Temp: +29.0°C (high = +85°C, hyst = +80°C) sensor = thermistor
vid: +0.275 V (VRM Version 9.0)
alarms:
beep_enable:
Sound alarm disabled

eeprom-i2c-0-53
Adapter: SMBus Via Pro adapter at 5000
Memory type: DDR SDRAM DIMM
Memory size (MB): 512

eeprom-i2c-0-52
Adapter: SMBus Via Pro adapter at 5000
Memory type: DDR SDRAM DIMM
Memory size (MB): 512

multi1:~#

Hoe zien die van jou eruit?

BartVB
Eigenaar

Berichten: 42314
Geregistreerd: 08-01-01
Woonplaats: Arnhem

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst door de TopicStarter : 28-09-06 08:45

Load average zit nu (met 400 users) al op de 3, 's avonds zit het eerder rond de 8 of hoger. Natuurlijk kan je 800 users kwijt op 1 server maar dan zal je 80% van de functionaliteit van phpBB weg moeten halen. Daarna lukt het idd makkelijk.

32-bit grens (bij 16M) zijn we al overheen.

Bas232

Berichten: 1088
Geregistreerd: 18-11-03
Woonplaats: Heppen, Belgie, Europa

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 29-09-06 12:50

BartVB schreef:
Load average zit nu (met 400 users) al op de 3, 's avonds zit het eerder rond de 8 of hoger. Natuurlijk kan je 800 users kwijt op 1 server maar dan zal je 80% van de functionaliteit van phpBB weg moeten halen. Daarna lukt het idd makkelijk.

32-bit grens (bij 16M) zijn we al overheen.


Hoi Bart,

Een continu load van 3 op hoger houd in dat je 3 CPU's gaat nodig hebben om de boel te verwerken.
Normaal moet je een load hebben van rond de 1, uitschieters daargelaten.
Om even een goede bekende van me quoten over load-averages (sorry is Engels)

Citaat:
When the load average is higher than the number of CPU's, it means processes are "in queue" waiting on the CPU. If the load average is 22, you have an average of 22 processes sitting around waiting on the CPU. That means it's going to take up to 22 times as long to get something done, roughly. Yeah, it might still be reasonably fast, but it's still overloaded.


Die hoge load moet je echt naar beneden zien te krijgen door bv andere My.cnf of Apache settings te gebruiken.
Mischien minder cachen? Mischien heb je domweg een parameter verkeerd staan waardoor hij bij elke request enorm geheugen begint te vreten?
Een hele goede om dat te veroorzaken is de read-buffer, sommigen durven die veel te hoog te zetten terwijl die maar 1-2M mag bedragen, zo even uit mijn hoofd.
Zou je die bv op 32M hebben staan, ja dan gaat hij voor elke connectie zoveel geheugen vreten (=tijd) en je geheugen gebruik + load enorm misbruiken voor niets.
Stuur me anders eens je my.cnf, ik wil die graag eens doorlopen als je het niet erg vindt.

Als voor de 16M grens voor 32-bit, dat klopt niet helemaal, normaal is de grens 32^2=4G
Wel kan het zijn dat bepaalde waardes max 16 bit mogen zijn zodat je niet boven de 16^2=16M, maar dat zou meer met het type tabel te maken hebben dan wat de database aankan.

Maar dat je functionaliteit zou verliezen, sorry, dat zie ik niet zitten....je hoeft helemaal niets in te leveren, waarom zou je?

topsylover

Berichten: 5691
Geregistreerd: 13-03-05
Woonplaats: Rotterdam

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 03-10-06 19:40

Kan het zijn dat hierdoor mijn foeilijst niet meer werkt?

Shadow0

Berichten: 44668
Geregistreerd: 04-06-04
Woonplaats: Utrecht

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 03-10-06 20:28

Bas232 schreef:
Een continu load van 3 op hoger houd in dat je 3 CPU's gaat nodig hebben om de boel te verwerken.


/me gaat blonde vraag stellen:
Waar moet Bart die extra cpu's vandaan halen? Hoge hoed? Toverstafje? Van de cpu-boom? (Dat moet een red-black-tree zijn)

Ik heb zomaar heel voorzichtig het vermoeden dat de beperkingen niet zitten in Bart z'n kennis, maar in geld en tijd (of andersom).

Bas232

Berichten: 1088
Geregistreerd: 18-11-03
Woonplaats: Heppen, Belgie, Europa

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 03-10-06 21:06

topsylover schreef:
Kan het zijn dat hierdoor mijn foeilijst niet meer werkt?


Sorry, neen, dat heeft er niets mee te maken.
Dat is enkel iets dat blijkbaar niet werkt in de software.

Bas232

Berichten: 1088
Geregistreerd: 18-11-03
Woonplaats: Heppen, Belgie, Europa

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 03-10-06 21:15

Shadow0 schreef:
Bas232 schreef:
Een continu load van 3 op hoger houd in dat je 3 CPU's gaat nodig hebben om de boel te verwerken.


/me gaat blonde vraag stellen:
Waar moet Bart die extra cpu's vandaan halen? Hoge hoed? Toverstafje? Van de cpu-boom? (Dat moet een red-black-tree zijn)

Ik heb zomaar heel voorzichtig het vermoeden dat de beperkingen niet zitten in Bart z'n kennis, maar in geld en tijd (of andersom).


Die gaat hij ook niet nodig hebben.
Want een server kent enorm veel instellingen die aangepast kunnen worden, met de juiste instellingen is een lage load prima te halen.
Wat is kennis? Als je een idee hebt hoeveel instellingen er zijn, niemand weet precies wat de optimale zijn.
Bart niet en ik ook niet, het is prutsen tot je de juiste gevonden hebt.
Bovendien werkt de database server ook niet mee, want als je daar een instelling verandert moet je tussen de 2-4 uur wachten voordat je pas echt kan opmaken welke effecten het heeft.
Een database server, MySQL in dit geval, kent alleen voor de database software al een duizendtal instellingen, de meeste heb je niet nodig, maar het zijn er echt enorm veel.
Dan heb ik het nog niet eens over de instellingen die je kan maken in php (script-verwerker), Apache (webserver) of Linux zelf.
Tel je alles bij elkaar op, dan heb je het over duizenden mogelijkheden waar je aan kunt prutsen.
Niemand kent ze allemaal, daar zijn het er te veel voor.

Het probleem is gewoon dat er niet echt veel enorm grote fora zijn, de meeste zijn klein en dan heeft een instelling (welke dan ook) meestal weinig impact.
Maar op zwaar belaste servers, kan een kleine wijziging het verschil betekenen tussen traag/time-outs/downgaan en enorm-snel-lopen Clown

Shadow0

Berichten: 44668
Geregistreerd: 04-06-04
Woonplaats: Utrecht

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 03-10-06 21:31

Bas232 schreef:
Want een server kent enorm veel instellingen die aangepast kunnen worden, met de juiste instellingen is een lage load prima te halen.


Dat vind ik een gewaagde aanname Haha! Een lagere load is misschien te doen, maar het houdt een keer op. En aangezien jij geen inside kennis hebt van het systeem kun jij niet zeggen of het betreffende systeem al aan z'n max zit. Zo wel dan zou ik die kennis niet verdoen op een miezerig forumpje, maar onsterfelijkheid verkrijgen in de wiskundewereld.

Citaat:
Bart niet en ik ook niet, het is prutsen tot je de juiste gevonden hebt.


Waar haal je dan de stelligheid vandaan dat het uberhaupt mogelijk is?

jokari

Berichten: 9073
Geregistreerd: 06-06-04
Woonplaats: thuis

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 04-10-06 00:07

hier snap ik dus niets meer van Haha!

Bart, ik hoop iig dat je het snel in orde krijgt (zonder je portemonee te moeten plunderen Haha! )

Maris89

Berichten: 6592
Geregistreerd: 19-04-05
Woonplaats: Den Haag

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 04-10-06 13:45

Misschien is het wat "simpel" wat ik zeg, maar is het niet makkelijk om users en topics te verwijderen waar bijv. al een jaar niet meer op is gereageerd? De zoekfunctie werkt toch niet (niet dat ik dat erg vind).

Bas232

Berichten: 1088
Geregistreerd: 18-11-03
Woonplaats: Heppen, Belgie, Europa

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 05-10-06 14:49

Shadow0 schreef:
Bas232 schreef:
Want een server kent enorm veel instellingen die aangepast kunnen worden, met de juiste instellingen is een lage load prima te halen.


Dat vind ik een gewaagde aanname Haha! Een lagere load is misschien te doen, maar het houdt een keer op. En aangezien jij geen inside kennis hebt van het systeem kun jij niet zeggen of het betreffende systeem al aan z'n max zit. Zo wel dan zou ik die kennis niet verdoen op een miezerig forumpje, maar onsterfelijkheid verkrijgen in de wiskundewereld.

Citaat:
Bart niet en ik ook niet, het is prutsen tot je de juiste gevonden hebt.


Waar haal je dan de stelligheid vandaan dat het uberhaupt mogelijk is?


Simpel, omdat de hardware die Bart gebruikt het aankan.
Ik weet nl wat hij gebruikt, omdat we aan het discussieren waren wat het beste was voordat hij het aankocht.
Bovendien zijn er heel mooie tooltjes om uit te vissen hoe de boel loopt.
PhPBB heeft die ook vast wel, SMF in elk geval wel.
Bart z'n hardware zit zeker niet aan de max van wat het aankan, daar heb je wel wat meer voor nodig dan dit forum Clown

topsylover

Berichten: 5691
Geregistreerd: 13-03-05
Woonplaats: Rotterdam

Re: [Dienstmededeling] Database weer verhuisd

Link naar dit bericht Geplaatst: 05-10-06 15:55

Bas232 schreef:
topsylover schreef:
Kan het zijn dat hierdoor mijn foeilijst niet meer werkt?


Sorry, neen, dat heeft er niets mee te maken.
Dat is enkel iets dat blijkbaar niet werkt in de software.

Owja, oke hij doet het alweer Lachen