В работе показана возможность изучения закономерностей поведения и диагностики структуры и свойств поверхностных слоев и покрытий на основе спектрального анализа акустических колебаний и силы сопротивления при трении. Исследования проведены на наноскопическом масштабе с использованием численного моделирования методом подвижных клеточных автоматов. Развита методика анализа упругих волн на основе обработки зависимостей от времени таких величин, как компоненты скорости, давление и интенсивность напряжений, регистрируемых в определенной точке поверхности контртела. Идентифицированы основные пики на спектрах регистрируемых данных, обусловленные собственными частотами системы, геометрическими и адгезионными параметрами модели, а также шероховатостью взаимодействующих поверхностей. Показано, что спектры изменения давления в модели качественно подобны акустическим спектрам записи звука в реальном эксперименте. Теоретически обосновывается возможность применения трибоспектрального анализа на основе вычисления силы трения для диагностики неоднородностей и несплошностей наноскопического масштаба в поверхностном слое толщиной до 100 нм. Результаты изучения показали возможность оценки ряда параметров наноскопических несплошностей, таких как характерный пространственный период их расположения и линейные размеры. Обсуждаются области применения предложенного подхода как перспективного неразрушающего метода исследования поведения и диагностики структуры и поврежденности покрытий и поверхностных слоев наноскопической толщины.