Prueba con john the ripper. Para extraer el hash del rar primero le pasas la herramienta rar2john con "rar2john archivo.rar > rar_hash.txt", luego puedes lanzar por ejemplo el ataque de diccionario con "john --wordlist=wordlist.txt rar_hash.txt" prueba los diccionarios típicos como el rockyou o alguno de esos. Si eso no te va xk sea una contraseña compleja que no está en diccionarios, intenta usar google dorks para encontrar la fuente de descarga de ese archivo, seguro en la web de descarga te dice la contraseña. Si no consigues encontrar nada, como último recurso prueba en john un ataque incremental, que prueba todos los caracteres posibles... Lo malo de eso es que puede tardar una locura de tiempo si la pass es muy larga.