Al het geheugen is ook daadwerkelijk PC3200, geen trager reepje er tussen zitten?
Toevallig een 754 socket? Die heeft de nare eigenschap maar met maximaal 4 kantjes RAM om te kunnen gaan. Als je er nu 4x 512MB double sided in hebt zitten, zit je aan 8 kantjes RAM en dat kunnen die sockets niet hebben. Designfoutje...

Maak er eens 1024MB van, kijk wat er gebeurd. Maak er dan 1536 van, kijk weer wat er gebeurd.
Misschien is er een BIOS upgrade voor je moederbord beschikbaar? Even naar zoeken.