Bezeichnet \psi(r^>) irgendeine Wellenfunktion in der Ortsdarstellung, dann berechnet sich der Erwartungswert des Ortsoperators r^>^^ in dieser Darstellung zu

braket(r^>^^)=integral((\psi(r^>))^\* r^> \psi(r^>)) d^3 r ,

wobei über den gesamten Raum zu integrieren ist, und das hochgestellte Sternchen \* meint konjugiert komplex.

Ich vermute mal, Du sollst lediglich den Erwartungswert von r==abs(r^>) bestimmen, dann vereinfacht sich das zu

braket(r^^)=integral((\psi(r^>))^\* r \psi(r^>)) d^3 r ,

die Integration über den gesamten Raum verbleibt aber, wobei man das Volumenelement d^3 r geschickterweise in Kugelkoordinaten ausdrückt.

Dadurch, dass die Wellenfunktion \psi_100 nur vom Radius abhängt, sieht das zu lösende Integral ja dann wie folgt aus. 

Der Bohr'sche Atomradius ist ja gerade das, was mit a_0 bezeichnet ist.

Du hast richtig gerechnet

braket(r)=3/2 a_0 ,

und das sollte mit ''in Einheiten des Bohr'schen Atomradius'' gemeint sein, also Vielfache von a_0.

Erwartungswert für \psi_200

Erwartungswert für \psi_210

Erwartungswert für \psi_211 

Unterm Integral steht ja das Betragsquadrat der Wellenfunktion,
d.h. bei

braket(r)= int((\Psi_211)^* r \Psi_211) d^3 r

darf nichts mehr stehen, was vom Winkel \phi2 abhängt.

Auch Dein r^6 und Dein sin^5\.\theta unterm Integral sind nicht richtig. 

Ich habe die Berechnung des Erwartungswert bei \psi_211 noch einmal vorgenommen

 \Psi_200

Da ich gerade das Skript meines Professors offen hatte, habe ich die Wellenfunktion \psi_211 aus diesem übernommen. Dort kann 1/8 in der Wellenfunktion vor wodurch bei der Bildung von \psi_211 * (\psi_211)^* 64 raus kam. 

Da in der Aufgabestellung die 1/8 ja gar nicht vor kam, habe ich die Rechnung nun noch einmal ohne die 1/8 vorgenommen und habe als Erwartungswert 320a_0 herausbekommen.

\Psi_211=1/8 1/sqrt(\pi) 1/a_0^3\/2 r/a_0 exp(-r/(2 a_0)) sin\theta exp(\ii\.\phi2)

(\Psi(r^>))^\* \Psi(r^>) d^3 r

ist die Wahrscheinlichkeit, das Teilchen am Ort zwischen r^> und r^>+d\.r^> anzutreffen. Das Integral des Betragsquadrates der Wellenfunktion über den gesamten Raum muß dann 1 ergeben, denn irgendwo muß das Teilchen ja sein.