Музей знайомить з художньою літературою, з історією літератури на Слобожанщині, із сучасною літературною теорією. Виставки та освітні програми Літературного музею показують, як література впливає на життя людей, як вона акумулює у собі культурний досвід різних спільнот.

Ідея створення у Харкові літературного музею виникла ще на початку 1930-х рр., коли Харків по праву називався «літературним Клондайком». Тоді музей літератури бачили у Будинку літераторів ім. Василя Еллана-Блакитного (вул. Червонопрапірна, 4), який тієї пори був місцем як офіційних, так і неформальних зустрічей письменників. Але у Радянському Союзі, до складу якого входила тоді й Україна, почалися масові репресії літераторів.

З'явився Літературний музей у Харкові 1988 року у маєтку початку ХХ ст. (вул. Фрунзе, 6) завдяки наполегливим зусиллям харківських ентузіастів. Від історико-літературної пам'ятки — Будинку літераторів ім. В. Еллана-Блакитного — музейному зібранню дісталися лише автентичні двері тієї будівлі.

Ядро колекції становлять експонати 1910—1930-х років з архівів І. Дніпровського, В. Титаря, А. Чернишова (книги з автографами, унікальне листування письменників, періодичні виданя з коментарями письменників, фотокартки, особисті речі), оригінальний живопис харківський художників-авангардистів (колекція Н. Косарєвої), копії та оригінали документів, які були передані МВС України (карна справа Г. Хоткевича, паспорт Леся Курбаса тощо), меморіальні експонати «Вапліте» тощо.

Ця колекція має особливу цінність для Харкова, оскільки в 1920-х — поч. 1930-х місто було місцем діяльності письменників періоду Розстріляного відродження.