Нужно делить на СООТВЕТСТВУЮЩУЮ сторону треугольника. Если дано, что треугольники АВС и ОРТ, подобны, то вначале надо определить какие стороны являются соответствующими (и то же самое с углами: соответствующие углы у подобных треугольников равны). Как правило в учебниках, при записи подобных треугольников соответствие определяется по положению буквы в записи треугольника. Хотя, в новых учебниках это явно не сказано. Например, если сказано, что треугольники АВС и ОРТ подобны, то подразумевается, что угол А равен углу О, угол В равен Р, и С равен Т. И тогда стороне АВ соответствует сторона ОР, стороне ВС соответствует РТ и стороне АС соответствует OТ. Т.е. при такой записи, будет AB/OP=BC/PT=AC/OT. И в вашей задаче, если AB=8, то чтобы определить коэффициент подобия, надо знать длину именно ОР. И если сказано, что она 4, то да, треугольник ABC подобен треугольнику ОРТ с коэффициентом подобия 2.
Треугольник АВС, уголС=90, СК-высота, СМ-медиана=6, СН-медиана=4√3, АМ=МК=1/2АК, КН=НВ=1/2КВ, 2МК=АК, 2КН=КВ, СК в квадрате=АК*КВ=2МК*2КН, МК=СК в квадрате/4КН, треугольник СКН прямоугольный, СК в квадрате=СН в квадрате-КН в квадрате=48-КН в квадрате, МК=(48-КН в квадрате)/4КН, треугольник КСМ прямоугольный, СК в квадрате=СМ в квадрате-МК в квадрате=36-МК в квадрате=36-((48-КН в квадрате)/4КН) в квадрате=36-((2304-96*КН в квадрате+КН^4)/16*КН в квадрате ), 36-((2304-96*КН в квадрате+КН^4)/16*КН в квадрате )=48-КН в квадрате, 576*КН^4-96*КН в квадрате-2304=0, КН в квадрате=(96+-корень(9216+138240))/(15*2)=(96+-384)/30=16, КН=4, КВ=2*КН=2*4=8, СК в квадрате=48-16=32, СК=4*корень2, МК=(48-16)/(4*4)=2, АК=2*МК=2*2=4, АВ=КВ+АК=8+4=12, АС в квадрате=АК*АВ=4*12=48, АС=4*корень3, ВС в квадрате=КВ*АВ=8*12=96, ВС=4*корень6, площадьАВС=1/2АС*ВС=1/2*4*корень3*4*корень6=24*корень2 или площадь АВС=1/2*АВ*СК=1/2*12*4*корень2=24*корень2