Això passa per una configuració de caràters incorrecta. Suposo que deu ser de l'unicode o de l'utf. Prova de canviar aquests paràmetres a la base de dades.
En tot cas, també hi ha una altra solució: quan vagis a grabar qualsevol informació a la base de dades, passa-ho per la funció htmlentities() en PHP i graba-ho. Així t'ho farà en format HTML vàlid.