Григорий Горелик (Анатолий – его псевдоним) родился в Геническе Мелитопольского уезда Таврической губернии в бедной мещанской семье, с 10 лет работал разносчиком в бакалейной лавке. Анархистом стал в 14 лет, с 1904 года участвовал в деятельности групп анархистов-коммунистов Украины и Южной России, несколько раз был арестован, пока в 1909 не скрылся за границу.

Проживая в Париже, Горелик учился в Сорбоннском университете. Участвовал в работе заграничных анархических групп, определившись как сторонник анархо-синдикализма, в 1911 году на короткое время нелегально выезжал в Россию.
В связи с начавшейся Первой мировой войной был вынужден переехать в Швейцарию, из-за чего закончить университет так и не смог, а к началу 1915 года эмигрировал в США. Поселился в Чикаго, вошел в число активнейших деятелей анархо-синдикалистской Федерации союзов русских рабочих в Соединенных Штатах и Канаде и американской революционно-синдикалистской организации Индустриальные рабочие мира (ИРМ), – вел пропаганду и выступал с лекциями, участвовал в организации многих выступлениях российских и американских рабочих.
Был одним из организаторов и редакторов первых изданий ИРМ на русском языке, еженедельников «Рабочая речь» (1915-1916) и «Рабочий» (1916-1917). Обе газеты вели антивоенную агитацию, а потому в марте 1917, когда США вступили в войну, «Рабочий» был закрыт, а ее редакторы арестованы.
В мае 1917 году Горелика выслали из Америки в Россию. Прибыв во Владивосток, он снова был арестован как «пораженец». Арест продлился всего три дня, после чего по требованию солдат владивостокского гарнизона Горелика и его товарищей освободили.
С лета 1917 года Горелик вел активную организационно-пропагандистскую деятельность в составе Екатеринославской федерации анархистов, занимался объединением анархистов Левобережной Украины.
К Октябрьскому восстанию отнесся неоднозначно; в 1922 году писал в воспоминаниях:
«Я лично считал и считаю, что в России не было Социальной Революции ни до, ни после октября. Поэтому создание анархического фронта, т.е. создание антиавторитарных, свободных рабочих и крестьянских организаций и “организации” анархических сил в 1917 г., не сделали еще в России Социальной Революции. Но в России могло быть тогда создано богатейшее массовое, рабоче-крестьянское, анархическое движение и заложен крепкий фундамент для Социальной Революции».
Зимой-весной 1918 году Горелик оказался одним из лидеров Бюро анархистов Донецкого бассейна и секретарем созданного при нем Бюро информации и анархической пропаганды на идиш, публиковался в газете «Голос анархиста», выходившей в Екатеринославе в марте-апреле 1918 году.
Когда Украину захватили германо-австрийские войска, Горелик ушел в подполье. В следующие годы он всегда оставался в Украине, преимущественно в подпольных организациях анархистов Екатеринослава, Киева и Харькова против гетманского, «петлюровского» и деникинского режимов.
При красных ему тоже доводилось побывать на нелегальном положении, хотя в «Советской» Украине Горелик вел в основном культурно-просветительскую деятельность, занимаясь преподавательской работой в системе Наркомата просвещения.
Он оказался самым известным представителем того крыла украинского анархизма, которое в условиях Гражданской войны категорически отвергало все формы «насильственной и деструктивной деятельности», от террора и экспроприаций до повстанчества – хотя некоторое время был напрямую связан с махновским движением, занимая должность секретаря Мариупольской группы анархистов «Набат».
По убеждению Горелика, в происходившей революции анархисты должны были играть роль «культурной и созидающей силы», показать пример непосредственной организации жизни на новых началах. С этой целью весной 1920 году Горелик и несколько его товарищей создали сельскохозяйственную коммуну недалеко от Харькова.
Коммунары с энтузиазмом трудились все лето, вырастили неплохой урожай, но к осени в коммуну явились чекисты, урожай конфисковали, а коммунаров арестовали. Это был не первый арест Горелика красными. Несмотря на его принципиальное неучастие в «деструктивных» действиях, за 1919-1921 гг. его отправляли в тюрьму в среднем раз в полгода.
Очередной арест произошел в ночь на 26 ноября 1920-го, во время военно-чекистской операции по «ликвидации анархо-махновщины». Через несколько дней 40 арестованных лидеров махновского и анархического движения были отправлены из Харькова в Москву, в распоряжение ВЧК. Среди этих сорока был и Горелик. Вернуться в Украину ему уже не довелось.
В январе 1921 году Горелика освободили под подписку о невыезде из Москвы, после чего он включился в работу «Всероссийского Черного Креста», о чем вспоминал:
«Многие анархисты, привезенные Вечекой из разных концов России в Москву, оказывались там в крайне тяжелых условиях. Большинство из них не имели чем прикрыть тело от зимней стужи, ни где отдохнуть. И мы начали подумывать как бы добыть для освобожденных анархистов какую-нибудь одежду, и вообще как бы наладить дело помощи преследуемым и заключенным анархистам».
Кроме работы по оказанию помощи нуждающимся товарищам, Горелик практически ежедневно выступал в легальном анархическом клубе, на собраниях рабочих и студентов, содействовал организации анархических групп и кружков на предприятиях и в вузах. С восторгом встретил Кронштадтское восстание, в котором увидел потенциальную возможность относительно мирного устранения большевиков от власти и установления безвластного строя Вольных Советов.
Кронштадт, как известно, привел к новому витку репрессий против российских анархистов и социалистов. В числе многих прочих в ночь на 8 марта 1921 года был арестован и Горелик – это был его шестой арест чекистами.
Через несколько месяцев он был приговорен как «как анархо-пропагандист» и «анархо-контрреволюционер» к заключению в концлагерь на 3 года. В лагерь, впрочем, не попал, почему-то был оставлен в Таганской тюрьме. В июле 1921 года здесь прошла коллективная голодовка заключенных анархистов, лидерами которой стали Григорий Максимов, Всеволод Волин, Марк Мрачный и Анатолий Горелик. Голодовка едва не привела к скандалу на проходившем в те дни конгрессе Красного Профинтерна – участвовавшие в его работе представители европейских анархо-синдикалистских организаций ультимативно потребовали освободить своих российских товарищей. Решение принималось на уровне Политбюро ЦК РКП(б): ленинское руководство постановило освободить голодавших – под условием их высылки за границу.
Освободившись в середине сентября 1921 году, Горелик жил под постоянным наблюдением чекистов в Москве и Петрограде, участвовал в совещаниях, на которых обсуждались планы будущей деятельности в эмиграции, пока, наконец, 5 января 1922 года не был отправлен через Ригу в Германию.
Несколько месяцев Горелик провел в Берлине, где стал одним из организаторов Группы русских анархистов в Германии, участвовал в подготовке коллективной работы «Гонения на анархизм в Советской России» и написал собственную книгу «Анархисты в русской революции». Довольно быстро он решил покинуть Европу. Причинами стали как безработица в разрушенной войной Германии, так и усиливавшиеся идейные разногласия с товарищами.
С ноября 1922 года и до конца жизни Анатолий Горелик жил в Буэнос-Айресе. Он присоединился к анархо-синдикалистской Федерации российских рабочих организаций Южной Америки, стал редактором и ведущим автором ее органа газеты «Голос труда» (1918-1930). Помимо нее сотрудничал во многих других газетах и журналах, издававшихся в 1920-1930-х на русским, испанском, французском и идиш языках, а также выступал на митингах, читал лекции по экономике и социальным вопросам.
Главной темой многочисленных статей Горелика во второй эмиграции стал анализ опыта Великой Российской революции 1917-1921 годов и участия в ней анархистов. Результатом этой работы стал пересмотр многих идейных, организационных и тактических положений классического анархизма и появление нового течения анархистов-«свободников». Его сторонники основывались на идеях Горелика времен Гражданской войны, – о ненасилии, о мирной пропаганде как единственной возможной форме практической деятельности, – и в каком-то смысле стали предшественниками современных «анархо-хаотов» и «анархистов образа жизни», выступив «против какого-либо руководства кем бы то ни было во имя чего бы то ни было».
Отрицание необходимости существования организации анархистов вело их к отрицанию возможности, а затем и необходимости реализации («организованного навязывания») идеалов безвластия в масштабах общества; по убеждению Горелика, путь к анархическому строю проходит не через социальную революцию, а станет очень длительным эволюционным процессом, заключающимся в воспитании людей, в развитии их сознательности, свободного сотрудничества и общей культуры.
Разумеется, тем самым «свободники» устранились от непосредственного участия не только в революционном, но и вообще в сколько-нибудь организованном общественном движении, включая его чисто реформистские разновидности. Лет двадцать «свободники» пользовались влиянием среди части российской эмиграции в Южной и Северной Америки, а затем их движение окончательно угасло. Впрочем, к творческому наследию самого Горелика интерес в Латинской Америке сохранился дольше; последнее издание его книги «El anarquismo en la revolución rusa» вышло в Аргентине в 2007 году.
В 1940 году Анатолия Горелика разбил паралич, после чего он оставался прикованным к постели до конца жизни. Последние годы провел в одном из госпиталей Буэнос-Айреса, где и умер 15 ноября 1956 года.