Hi,
zur a):
\(k'<0\) ist nicht möglich. Die rechte Seite der Ungleichung wäre ja dann auf jeden Fall negativ und die linke ist immer größer gleich 0.
Du weißt, dass \(|f(n) | \le k \cdot |n|\) gilt.
Nun willst du \(k'\) so wählen, dass \(|f(n) | \le (k' \cdot | c |) \cdot |n|\). Tipp: Dein \(k'\) darf von der Konstanten \(c\) abhängen.
b)
Das reicht leider nicht aus. Das gleiche Argument könntest du ja dann auch verwenden bei dem Bruch \(\frac{log_2(n)^2}{n^2}\). Hier geht der Nenner ja auch gegen unendlich.
Das Problem ist ja, dass sowohl Nenner als auch Zähler gegen unendlich gehen. Wenn das der Fall ist, kannst du l'Hopital (unter bestimmten Voraussetzungen, die z. B. auf Wikipedia stehen) nutzen.
Bei dem Bruch \(\frac{2 \cdot \log_2(n)}{n \cdot ln(2)}\) gehen sowohl Nenner als auch Zähler gegen unendlich. Hier musst du also wieder l'Hopital anwenden.