Небольшая лодка притягивается канатом к теплоходу. почему он не движется по направлению к лодке?

Движется . Есть закон сохранения импульса.
MV+mv=0 где большие индексы для теплохода, маленькие для лодки. Масса теплохода много больше массы лодки, поэтому скорость движения теплохода к лодке много меньше скорости движения лодки к теплоходу в неподвижной системе отсчёта.