Знаком "Отличник РККА" награждались красноармейцы, командный и начальствующий состав, курсанты военных училищ за отличную боевую и политическую подготовку. Знак был учрежден Постановлением СНК СССР №1889 от 14 ноября 1939 года. Награждение происходило по окончании учебных периодов: зимнего и летнего. акже награждение могло быть произведено 1 мая и 7 ноября (праздничные дни). Также нарком обороны (который обладал правом вручения этого знака) мог наградить им и сразу. С 1940 года значком стали награждать и военнослужащих внутренних войск НКВД.

Автором рисунка знака был художник Центрального дома Красной Армии Н.И. Москалев. Оформление знака представляет собой изображение солдата на фоне Спассой башни Кремля. Изображение окантовано вытянутом венком, который наверху венчался звездой. Внизу на развивающейся красной ленте надпись позолоченными буквами: "Отличних РККА". Под надписью на безом фоне изображались серп и молот.

Всего до начала войны было изготовлено более 149000 знаков, что немного меньше предполагаемого количества (производство осуществлялось на Ленинградском монетном дворе). С началом войны выпуск преркатился.