С тех пор как в возрасте десяти лет отец привез его из Италии, все свои тридцать девять лет жизни в Соединенных Штатах, за исключением двух-трех лет, Колоссимо провел в квартале красных фонарей на юге Чикаго. Свою карьеру он начал разносчиком газет и чистильщиком сапог, но взлет его был стремителен. В возрасте восемнадцати лет он был уже искусным карманником и сутенером с полдюжиной активных девочек под началом. В двадцать с небольшим он с успехом занимался вымогательством. В конце 90-х годов XIX века, несколько раз чудом избежав ареста, Джим устроился на работу дворником – это была его последняя честная работа. В 1900 году его подняли до бригадира, и он организовал среди своих дворников общественно-спортивный клуб, на основе которого позже был создан профсоюз под контролем знаменитого Майка Даго Кароццо. В награду за предоставление голосов своего клуба машине демократов Первого округа олдермен Кенна назначил его начальником регионального отделения, что давало ему иммунитет от ареста, не говоря уже о других привилегиях и возможностях. В 1902 году Колоссимо женился на Виктории Мореско, хозяйке борделя на Армур-авеню, и в итоге взял управление борделем на себя. Через три года эта сладкая парочка открыла еще один бордель, а в 1910-м – знаменитое кафе на Уэбаш-авеню, бывшее на протяжении многих лет центром ночной жизни Чикаго и излюбленным заведением собраний политических партий. В это же время Колоссимо организовал банду торговцев женщинами на пару с Морисом Ван Бивером, привез из Нью-Йорка Джонни Торрио в качестве своего телохранителя и правой руки и приобрел долю собственности в нескольких салунах и домах терпимости. Пропорционально богатству и количеству голосов, которые контролировал Большой Джим, росло и его политическое влияние.
В дни расцвета Прибрежного района Колоссимо играл роль второй скрипки при Айке Блуме, но после закрытия района красных фонарей власть Блума уменьшилась, и начался взлет Колоссимо. Единственный неудачный период для Большого Джима пришелся на конец лета 1914 года, когда мэр Картер Харрисон отозвал его лицензию на кабак на Уэбаш-авеню. Лицензия была выдана заново, как только мэром стал Томпсон. Хотя в принципе Колоссимо не особенно старался вернуть себе свои кабаки на Армур-авеню после того, как Вэйман и Хойн разогнали Прибрежный район; он ясно понял, что район красных фонарей уже не будет восстановлен, как таковой, и вместо этого сконцентрировал свои усилия на обретении контроля над домами свиданий, большинство которых координировало свою деятельность с салунами и кабаре. В это же время он продолжал борьбу против полиции нравов, распоряжался сборами за покровительство – как своими собственными, так и собранными другими синдикатами, – финансировал захват пригорода Бернхэм Джонни Торрио, евреем Кидом Грабинером и Джейком Адлером – первое нашествие чикагских гангстеров на пригороды. К середине 1915 года Колоссимо был признанным руководителем проституции на юге города, а благодаря своей политической власти был почти столь же влиятелен и в других частях Чикаго.
По иронии судьбы, косвенной причиной падения Колоссимо послужил романтический интерес к одной из немногих респектабельных женщин, которых он когда-либо знал. Это была Дэйл Уинтер, молодая музыкально-комедийная актриса, которая, застряв в Чикаго после неудачного гастрольного турне, приняла приглашение поработать в кабаре на Уэбаш-авеню, имея в виду бросить эту работу сразу же, как найдет что-нибудь получше. Но Колоссимо влюбился в нее, а она – в него. В марте 1920 года Колоссимо развелся с Викторией Мореско, оставив ей пятьдесят тысяч долларов в обмен на отказ от любых притязаний. Три недели спустя они с Дэйл Уинтер поженились в Краун-Пойнт, штат Индиана, и через две недели медового месяца вернулись в Чикаго.
Днем 11 мая 1920 года, менее чем неделю спустя после того, как молодожены вселились в дом на Вернон-авеню, Большой Джим сел в автомобиль и, как обычно, поехал в свое кафе. Жена впоследствии говорила, что она собиралась с ним, но он велел ей оставаться дома, потому что ему предстояла деловая встреча. Они должны были встретиться за обедом. Кафе Колоссимо в ту пору представляло собой две длинные комнаты – «южную» и «северную», разделенные стеной, в которой была прорублена арка. Главный вход вел в прихожую, в которой находился гардероб. Приехав на место, Колоссимо направился прямо в свой кабинет, который находился позади «южной» комнаты. Там его секретарь, Фрэнк Камилла, обсуждал с поваром, Антонио Кесарино, меню дня. Колоссимо поговорил с ними минут десять – пятнадцать, но около половины пятого, отметив, что ожидаемый посетитель запаздывает, он прошел через «северную» комнату и вышел в прихожую, явно собираясь выйти на улицу. Мгновение спустя Камилла и Кесарино услышали два выстрела, и Камилла отправился посмотреть, в чем дело. На полу прихожей лежало тело Колоссимо с простреленным затылком. Вторая пуля застряла в стене. Позже полиция сделала вывод, что стрелявший прятался в гардеробе.