Yo te cuento mi experiencia, que no te digo que sea la mejor:
Fraps: hasta hace poco usaba esta programa para grabar cualquier vídeo de juegos. Es cierto que pesa mucho el resultado pero no se pierde nada de calidad, que a mi es lo que me importa. Los videos que grabas con Fraps no lo subas directamente a youtube (o donde sea), los renderizas y los editas para conseguir el resultado que esperas, asi reduces mucho su peso sin perder apenas calidad.
Dxtory: Muchos dicen que es mejor que el Fraps. En mi experiencia no lo ha sido, siempre tuve más FPS con el Fraps. Se recomienda que los archivos grabados se guarden en un segundo disco duro que sea rápido y tal. Yo esto nunca lo he probado porque desgraciadamente no dispongo de un segundo disco duro bueno, pero dicen que así está bastante bien.
ShadowPlay de Nvidia: Ahora es lo que uso y es fantástico. Si tienes una tarjeta gráfica Nvidia de la familia 600 o superior, los drivers gratuitos de Nvidia incluyen esta herramienta. Graba sin perder nada de rendimiento en el mismo disco duro, usa una nueva tecnologia de procesamiento de imagen... o algo así, y la verdad es que doy, fe, es una maravilla. Adios Fraps. Tiene dos pegas por ahora: está en estado beta y apenas es configurable. Además sólo graba aplicaciones basadas en DirectX, y el NwN precisamente es OpenGL... Espero que con el tiempo mejoren eso, está toda la comunidad impaciente. Pero promete mucho está aplicación. Yo afortunadamente he encontrado un truco para grabar el NwN... básicamente bugeo ShadowPlay jeje, cuando le doy a grabar al Assassins Creed 4 y cierro el juego, el programa sigue grabando el escritorio, no se cierra como debería hacer, entonces si abro el NwN lo graba! Así que por ahora me apaño con eso.
Sony Vegas Pro 11: Es el programa que uso para editar y renderizar los videos que grabo. Les pongo letras.. los uno.. les pongo efectos.. les pongo músicas.. y bueno, todo lo que quieras. Muy completito. Te paso un tutorial que me vino muy bien en su día:
http://www.youtube.com/watch?v=aYqliNZMnDk
El Camtasia lo he usado también para grabar el escritorio. Y está bien, pero con el truco que te comento del ShadowPlay al menos en mi caso no lo considero necesario.
Al grabar juegos... creo que ya es normal grabar 200GB de peso... y luego ya editarlo. Cualquier Youtuber gamer profesional debe estar muy acostumbrado a eso xD Otra opción claro está la capturadora, es lo más pro que hay, pero hay que tener presupuesto para ello ya que valen sobre 150€ una decente. Yo personalmente por ahora he pasado de ello, no lo usaría tanto como para que me saliese rentable.
Espero que te sirva

Un saludo.