какую энергию называют внутренней энергией системы?

Внутренней энергией системы является сумма энергий кингетического движения молекул, потенциальной энергии взаимодействия молекул, энергий колебаний молекул, их вращения и т.д.

Внутренняя энергия системы складывается из двух энергий: взаимодействия и движения, т.е. потенциальной и кинетической. Она увеличивается засчет теплопередачи или движения.