Нужно делить на СООТВЕТСТВУЮЩУЮ сторону треугольника. Если дано, что треугольники АВС и ОРТ, подобны, то вначале надо определить какие стороны являются соответствующими (и то же самое с углами: соответствующие углы у подобных треугольников равны). Как правило в учебниках, при записи подобных треугольников соответствие определяется по положению буквы в записи треугольника. Хотя, в новых учебниках это явно не сказано. Например, если сказано, что треугольники АВС и ОРТ подобны, то подразумевается, что угол А равен углу О, угол В равен Р, и С равен Т. И тогда стороне АВ соответствует сторона ОР, стороне ВС соответствует РТ и стороне АС соответствует OТ. Т.е. при такой записи, будет AB/OP=BC/PT=AC/OT. И в вашей задаче, если AB=8, то чтобы определить коэффициент подобия, надо знать длину именно ОР. И если сказано, что она 4, то да, треугольник ABC подобен треугольнику ОРТ с коэффициентом подобия 2.
ВК=BD*sin(BDA)
С другой стороны, AD = AC / 2 = BD / cos(BDA) => AC = 2 * BD / cos(BDA)
Площадь S треугольника АВС:
S = ВК*АС / 2 = ВК*АD = BD*sin(BDA) * BD / cos(BDA) = BD^2 * tg(BDA)
tg(BDA) = S / BD^2; 1 / cos(BDA) = корень (1 + tg^2(BDA)) = корень (1 + S^2 / BD^4)
Таким образом,
AC = 2 * BD / cos(BDA) = 2 * BD * корень (1 + S^2 / BD^4)
АС = 2 * 3 * корень (1 + 12^2 / 3^4) = 6 * корень (1 + 144 / 81) = 6 * корень (225 / 81) = 6 * 15 / 9 = 10.