Нарадзіўся ў в. Трасцівец сучаснага Быхаўскага раёна ў сялянскай сям’і. Рана ўключыўся ў рэвалюцыйны рух, у 1904–1905 гг. разам з братамі ўваходзіў у быхаўскую арганізацыю РСДРП, вёў прапагандысцкую работу сярод сялян у час першай рэвалюцыі, за што быў арыштаваны. У 1910–1911 гг. служыў у царскай арміі радавым Усходне-Сібірскага паветранаплавальнага батальёна ў Іркуцку, затым у Кіеве. Быў членам ваенна-рэвалюцыйнай арганізацыі эсэраў. Удзельнічаў у Першай сусветнай вайне. З вайны вярнуўся з жонкай – немкай Эльфрыдай Іосіфаўнай, выпукніцай Венскай кансерваторыі, таленавітай спявачкай і музыкантам. У час грамадзянскай вайны займаў значныя пасады.

У 1917 г. знаходзіўся на Паўднёва-заходнім фронце, удзельнічаў у рабоце Надзвычайнага з’езда фронту ў Бярдзічаве. У 1918–1919 гг. загадваў агітацыйна-выдавецкім пададдзелам Беларускага аддзела Камісарыята па справах нацыянальнасцей Саюза камун Паўночнай вобласці. Быў рэдактарам часопіса “Белорусская криница”, супрацоўнічаў у газеце “Чырвоны шлях”.

Пісаў Іван Баранкевіч на рускай мове. Літаратурна-творчую дзейнасць пачаў у 1913 г. У 1914 г. у часопісе “Вестник Могилевского земства” ён надрукаваў шэраг грамадска-публіцыстычных артыкулаў па праблемах кааперацыі, народнай адукацыі, літаратуры, а таксама першае апавяданне “Фантазер: (типы новой деревни)” пад псеўданімам “Белорусс”.

У 1920 г. у Маскве, у серыі “Красная книжка” асобным выданнем выйшла апавяданне І. Баранкевіча “Старый Нил”. Яно прысвечана падзеям Кастрычніка і грамадзянскай вайны на вёсцы. У 1923–1925 гг. ён жыў у Магілёве, працаваў у органах народнай асветы, быў вядучым аўтарам газеты “Соха и молот” (з 1925 г. – “Магілёўскі селянін”), на старонках якой надрукаваў каля трыццаці апавяданняў і нарысаў, прысвечаных жыццю вёскі.

Як супрацоўнік газеты дапамагаў маладым мясцовым літаратарам. Сваім “літаратурным бацькам” лічыў І. Баранкевіча Кастусь Губарэвіч, які дасылаў яму свае першыя вучнёўскія вершы. Знаёміў чытачоў з паэтычнымі навінкамі савецкай літаратуры наогул.

У канцы 1920-х гг. І. Баранкевіч жыў і працаваў у Ленінградзе, выступаў як празаік у ленінградскім часопісе “Резец”, змясціў там цыкл нарысаў “Новые люди деревни”, напісаныя на беларускім матэрыяле: “Дед Архип”, “Сашка-безбожник”, “Есть и такие”, “Мужицкая правда” і інш. Пісьменнік імкнуўся паказаць супярэчнасці ў вёсцы, прыгажосць працоўнага чалавека і паэзію самой працы.

У 1929 г. літаратурная студыя часопіса “Резец” выпусціла “Альманах беларускай літаратуры”, усю прозу якога (творы К. Чорнага, М. Зарэцкага і інш.) пераклаў І. Баранкевіч пад псеўданімам “И. Быховский”. Вядомы ён і як перакладчык на рускую мову твораў Я. Коласа, сярод якіх аповесць “На прасторах жыцця”, выдадзеная ў серыі “Творчество народов СССР” (Масква – Ленінград, 1930).

І. Баранкевіч быў настойлівым прапагандыстам марксізму. Ён адным з першых напісаў біяграфію У.І. Леніна, выдадзеную ў Петраградзе ў 1919 г. пад псеўданімам “Белорусс”. Даследаванне І. Баранкевіча адрознівалася ад іншых большым аб’ёмам, храналагічным ахопам і грунтоўным расказам аб жыцці і дзейнасці правадыра. Ён пісаў пра Леніна, як пра выдатнага аналітыка-тэарэтыка, які прадбачыў будучыню ў рэчаісным, і вельмі добрага палітыка-практыка. Стварыў цэлы цыкл апавяданняў і нарысаў пра бальшавіцкіх камісараў, што, аднак, не выратавала І. Баранкевіча ад рэпрэсій.

Нягледзячы на яго літаратурную і публіцыстычную дзейнасць у часы культу асобы Сталіна І. Баранкевіч, па сутнасці, увесь час знаходзіўся “пад каўпаком”. Першы раз яго арыштавалі ў 1923 г., затым у 1924 г. Арышт у 1931 г. закончыўся высылкай на спецпасяленне ў Самарканд, адкуль, у сувязі з амністыяй, ён вярнуўся праз два гады.

У 1939 г. трапіў у ленінградскую перасыльную турму, дзе аб’явіў галадоўку, якая доўжылася больш за месяц. Быў змешчаны ў псіхіятрычную бальніцу. У 1941 г. Беларуса асудзілі на 8 гадоў і адправілі ў Карлаг, дзе ён памёр 26 чэрвеня 1942 г. На яго магіле паставілі слупок з надпісам: “№ 24 в”.

Рэабілітаваны Іван Міхайлавіч пасмяротна ў 1982 г.

Матэрыял падрыхтаваны Магілёўскай абласной бібліятэкай імя У.І. Леніна ў 2011 г.