Método das divisões sucessivas. Divida o número decimal por 16, (já q vc quer descobrir o valor em hexa) até não dar mais. E então, o resultado são os números de baixo para cima. Mas claro, q se algum número der mais de 9, a partir do 10 em hexa são  representadas por letras, ficando assim:

0-0

1-1

2-2

3-3

4-4

5-5

6-6

7-7

8-8

9-9

10-A

11-B

12-C

13-D

14-E

15-F

link de um vídeo exemplo: https://www.youtube.com/watch?v=ftbLBkQoyGQ