В числителе и знаменателе сгруппируем слагаемые таким образом, чтобы применить следующие формулы:

sinα - sinβ	=  2sin	α - β	∙ cos	α + β
		2		2

cosα - cosβ	=  -2sin	α + β	∙ sin	α - β
		2		2

1) В числителе получаем:

cosа — 2sin3а — cos5а = cosа — cos5а — 2sin3а = -2sin(a + 5a)/2 · sin(a - 5a)/2 - 2sin3а = -2sin3a·sin(-2a) - 2sin3а = 2sin3a·sin2a - 2sin3а = 2sin3a·(sin2a - 1), - здесь 2sin3a вынесли за скобки.

2) В знаменателе получаем:

sin5а — 2cos3а — sinа = sin5а — sinа — 2cos3а = 2sin(5a - a)/2·cos(5a + a)/2 - 2cos3а = 2sin2a·cos3a - 2cos3а = 2cos3а·(sin2a - 1), - здесь 2cos3а вынесли за скобки.

3) Как видно, теперь числитель и знаменатель сокращаются на (sin2a - 1).

Остается:

2sin3а / 2cos3а = sin3а / cos3а = tg3a.

Здесь применили формулу:

tgα	=	sinα
		cosα