В ПЕРВОЙ ШКАТУЛКЕ НАХОДИТСЯ 10 МОНЕТ ,ОДНА ИЗ НИХ ФАЛЬШИВАЯ .ВО ВТОРОЙ ШКАТУЛКЕ 5 МОНЕТ,ИЗ НИХ 2 ФАЛЬШИВЫЕ .ИЗ КАЖДОЙ БЕРУТ ПО ОДНОЙ МОНЕТЕ .КАКОВА ВЕРОЯТНОСТЬ,ЧТО ОНИ ОБЕ ФАЛЬШИВЫЕ

клади по две монеты на весы если весы уравновешены то две фальшивых монеты находятся на одной стороне весов а не взвешенная монета 100% не фальшива с её помощью и узнаём на какой чаше фальшивые.
если весы не уравновешены тогда с чаши которая была ниже снимаем 2 монеты а с другой одну перекладываем на весы и на той чаша которая выше находится фальшивая монета
если после второго взвешивание весы уравновесились значит легкая монета это та самая которую не клали на весы в первый раз а тяжелая одна из тех что сняли с весов при втором взвешивании. Третьем взвешиванием находим эту монету.

это неправильный ответ

Почему это?

должна быть формула по которой решается задача а не весы

Всё верно! Я предложил споспоб решения.