Зачатки ушу возникли раньше китайской государственности, но до IV-111 в. до н.э. еще не было систем (школ) ушу; была лишь подготовка воинов, т.е. «воинское ремесло». Первоначально оно имело вид танцевально-боевых упражнений, а позже приобрело статус военизированной учебной дисциплины в специальных учебных заведениях. К концу III века до н. э. вся индивидуальная подготовка воинов была объединена под названием «уи». Этот термин охранялся на протяжении многих столетий и впоследствии стал синонимом ушу. В уи вошли цзюэди (борьба), шоубо (рукопашный бой), техника работы с оружием. Обучение базировалось на комплексах формальных упражнений-таолу, которые выполнялись как индивидуально, так и с партнерами. Комплексы имитировали бой голыми руками, бой с оружием, защиту от вооруженного нападения. В периоды «Весен и Осеней» (770-476 гг. до н. э.) и «Воюющих Царств» (475-221 гг. до н. э.) жили и работали крупнейшие китайские философы: Конфуций, Лао-Цзы, Мэн-цзы, Чжуан-цзы. Китаю был передан ими духовный импульс, повлиявший на развитие всей Восточной Азии в последующую пару тысячелетий.
В I веке н.э. в Китай из Индии начал проникать буддизм. Все философские системы учили видеть общее за разнородными вещами повседневности. Так как боевыми искусствами занимались не только простые воины (выступать в поединках на помостах не чурались даже некоторые императоры), то китайские воинские искусства постепенно начали сливаться с философскими системами, перерастая уровень простого набора приемов ведения боя. Возможно, именно благодаря этому они и не затерялись в веках, а развились и дожили до наших дней.
Примерно в VI веке в Китай пришел легендарный индийский миссионер Бодхидхарма, который стал проповедовать буддизм в монастыре Шаолинь неподалеку от Лояна. Согласно легенде, именно он основал знаменитый шаолиньский стиль ушу. По преданиям, впоследствии шаолиньские монахи помогли вернуть престол второму императору династии Тан-Ли, Ши-миню - и тот разрешил монастырю содержать монашеские войска. Появился специальный термин - усэн (монах-боец). В сунскую эпоху (960-1279) немало монахов, в том числе и усэнов, стало уходить в мир, слагая с себя монашеские обязательства. В XII веке шаолиньские ушу пришло в упадок из-за многочисленных гонений на буддизм и монгольского вторжения. Но в 1224 году в монастырь Шаолинь пришел молодой человек, взявший монашеское имя Цзюэюань. Увидев плачевное состояние ушу в монастыре, он решил, что утеряна истинная традиция боевого искусства, и стал ее возрождать. Он, фактически, создал новый стиль, доживший до наших дней.
После 1219 года, когда после завоевания Китая Чингисхан пошел войной на запад, в Китай стали переселять персов и арабов, исповедовавших ислам. Таких людей называли «Сэму» («цветноглазые»), они имели меньше прав, чем монголы, но больше, чем китайцы. В официальных документах династии Юань их именовали «хуэйхуэй». Пришедшие на восток мусульманские пехотинцы и артиллеристы в 1275 году в соответствии с указом основателя династии Юань «всюду вступать в общины жителей приграничья» стали из солдат крестьянами. Из этих людей, и прибывших при династиях Тан и Сунн по морю арабских иммигрантов, а также принявших ислам китайцев сформировалась нация хуэйцзу («мусульман»). В течении более чем семисот лет своего существования нация хуэйцзу была неразрывно связана с ушу, которое они рассматривали как средство самообороны. Занятия ушу считались священнодействием, стимулировавшим дух мусульман. В 1351-1368 годах народное восстание «красных повязок», под предводительством Чжоу Юаньчжана (который сам был большим любителем ушу) положило конец монгольской династии Юань и привело на трон Поднебесной династию Мин, первым императором которой, стал, Чжоу Юаньчжан. Начался «золотой век» ушу.
В XVI в. приморские провинции Китая стали подвергаться опустошительным набегам японских пиратов. «Покарать бандитов и оберечь народ» было предписано талантливому чиновнику Ци Цзигуану (которому к этому моменту было 27 лет). Он попал в трудную ситуацию: войска в тех местах были слишком малочисленны, и прекрасно подготовленные японские самураи без труда расправлялись с плохо организованными отрядами, пытавшимися давать им отпор. Поэтому Ци Цзигуан, будучи знатоком ушу, решил привлечь в отряды местного ополчения бойцов ушу и народных мастеров. В 1561 году японцы в провинциях Чжэцзян, Фуцзянь и Гуандун были разбиты. Получив должность генерала, Ци Цзигуан предписал всем своим воинам и даже высшему офицерскому составу заниматься ушу. Сведя воедино многие тогдашние системы военной подготовки, он написал знаменитый трактат «Цзисяо синьшу» («Новая книга записей о достижениях [в военном деле]»). Благодаря деятельности Ци Цзигуана XVI век считается переломным в истории ушу.
Правление династии Мин было эпохой стабильного, методичного совершенствования и мирного сосуществования различных школ. Однако, ничто не вечно. 6 июня 1644 года Пекин был взят маньчжурскими войсками. Минский император повесился, чтобы не попасть живым в руки завоевателей. Была установлена новая династия - Цин, которая, несмотря на поистине грандиозный размах, национально-освободительной борьбы в Китае, сумела удержать власть до 1911 года.
Центром практики ушу стали тайные общества. В течение всего XIX века Поднебесную сотрясали народные восстания, направленные против маньчжурского владычества и засилья иноземцев. Тайные общества, культивировавшие различные стили ушу, принимали на себя основной удар в восстании «Восьми триграмм», и в Опиумных войнах, и в великой народной войне тайпинов. Апофеозом деятельности тайных обществ стало восстание ихэтуаней (1899-1901) вошедшее во всемирную историю под названием «боксерского». Несмотря на то, что разгром ихэтуаней привел к гибели значительного количества мастеров ушу, прочно укоренившиеся традиции боевых искусств не могли, разумеется, исчезнуть бесследно.
Вовремя Синьхайской революции (1911-1913) и позднее, при правлении милитаристов, деятельность тайных обществ возобновилась с новой силой. Правительство Китайской республики оказывало большую поддержку развитию ушу. Первый президент Китая Сунь Чжуншань (Сунь Ятсен) сам изучал тайцзицюань под руководством Цай Гуйциня. Его преемник генералиссимус Цзян Цзеши (Чан Кайши) также был не чужд боевых искусств. Он лично присутствовал на гокао (государственные испытания нечто вроде всекитайских соревнований по ушу), которые проводил в Нанкине (тогдашней столице Китая) Центральный институт Гошу (национальное искусство так в период правления партии Гоминьдан называли ушу), основанный в 1928 году. Ректором Института был генерал Чжан Чжэцзян, покровительствовал ему министр обороны Фэн Юйсян. Другой крупной организацией, развивавшей ушу, была основанная в 1909 году в Шанхае Ассоциация Цзиньу (Ассоциация истинных боевых искусств). Обе организации имели филиалы во всех провинциях Китая (Ассоциация Цзиньу) и за рубежом, в местах компактного проживания китайцев: во Вьетнаме, Малайзии, Сингапуре, Филиппинах и т.д., преподавали там крупные мастера, хранители истинной традиции.
Во время второй мировой войны многие мастера ушу воевали в армии или партизанских отрядах, внеся свой вклад в дело победы над Японией. После прихода к власти коммунистической партии и образования КНР правительство обратилось к мастерам ушу с призывом выйти из подполья, мотивируя это тем, что все мотивы для тайной деятельности остались в прошлом (власть маньчжуров свергнута, японцы изгнаны, страна объединена под единой властью). Правительству поверили, и в 1953 году в Тяньцзине с 8 по 12 ноября прошла первая Всекитайская национальная спартакиада, 75% которой заняли выступления по ушу. Было продемонстрировано 139 стилей ушу, проведены поединки по рукопашному бою (без какого-либо защитного снаряжения), по бою на коротком оружии (мечах) и бою на длинном оружии (шестах и копьях), а также соревнования по такому древнему национальному виду состязаний, как поднятие тяжестей. Увидев такую мощь (в поединках практически не было травмированных) правительство испугалось, мало ли куда повернет эта сила в будущем. Большинство тайных обществ было разогнано. Параллельно из нескольких мастеров и историков ушу, согласившихся сотрудничать с государством (так как искренне считали, что ушу нуждается в реформировании), была создана комиссия по реформе ушу.
Известный мастер Цай Луньюань на основе своего фамильного стиля хуацюань (расцветающий кулак), а также ряда других северных стилей чжацюань (кулак семьи Чжа), паоцюань (пушечный кулак), хунцюань (кулак потока), пигуацюань (кулак рубки и подвешивания), шаолиньцюань (кулак монастыря Шаолинь) создал новый спортивный синтетический стиль чанцюань (длинный кулак). На основе пяти стилей провинции Гуандун (стили семей Хун, Цай, Ли, Лю и Мо) был создан спортивный синтетический стиль наньцюань (южный кулак). Названия приемов заменялись на технические, лишая их тем духовной наполненности (согласитесь, удар, раскалывающий гору это одно, а хлопок кулаком по ладони это совсем другое). В период Великой культурной пролетарской революции (1966-1976) занимавшиеся ушу подверглись массовым репрессиям за потакание феодальным пережиткам. Однако в это время благодаря кинобоевикам начался рост популярности ушу за рубежом, и дабы не портить международного имиджа КНР, ушу оставили в покое.
Сейчас государство по-прежнему проводит политику превращения ушу в спорт. Среди молодежи, не видевшей истинного ушу, популяризируются чан-цюань и нань-цюань, а также спортивные и оздоровительные версии древних стилей. Созданы правила проведения поединков (бой по правилам - вещь в традиционном ушу просто немыслимая). Как говорят народные мастера «Чтобы побеждать в поединках по правилам саньшоу, нужно заниматься боксом, а не ушу». Традиционное ушу продолжает существовать, но не пересекаясь с государственным.