Он начал с языков хауса, пытаясь установить, каким другим языками они могут быть родственны, для этого сравнивал общеупотребительные слова и увидел, что языки распадаются на группы. В течение пяти лет Гринберг раскладывал 1500 известных на тот момент африканских языков по все более обширным группам, пока, наконец, не распределил их сначала по 16, а затем и вовсе по четырем макросемьям. Странные и древние щелкающие языки Южной Африки он поместил в группу, которую назвал койсанской. Центральноафриканские языки, в том числе широко распространенные языки банту, Гринберг отнес в группу под названием нигеро-кордофанская. Он решил, что языки банту должны были возникнуть на западе Африки, потому что именно там наблюдается их наибольшее многообразие. Отсюда он заключил, что современные языки банту, распространенные вдоль восточного и западного побережий материка, возникли в результате миграции, которая разделилась на два потока, и один двинулся прямиком на западное побережье, а второй пересек Африку поперек и затем двинулся по ее восточному берегу на юг. Этот вывод Гринберга подтверждается данными археологии.
Третьей из четырех макросемей у Гринберга стала нило-сахарская, к которой принадлежат языки нилотских народов, например динка и нуэр, языки, распространенные на территориях Сахары и сонгайские языки из Западной Африки. Четвертую семью, объединившую языки, распространенные по всему северу Африки, Гринберг назвал афразийской. Сюда вошли берберские языки с северо-запада континента, древнеегипетский и семитские, к которым относятся арабский, иврит и аккадский, вымерший язык ассирийцев и вавилонян.
Всеобщая классификация африканских языков, предложенная Гринбергом, выдержала проверку временем и сегодня широко признается, хотя ученые не перестают ее совершенствовать. Африканские языки вызывают особый интерес из-за их большого разнообразия и предполагаемой древности. По последним оценкам, сегодня в Африке существует около 2035 языков, 35 из которых принадлежат койсанской семье, 1436 – нигеро-конголезской (новое название гринберговой нигеро-кордофанской), 196 – нило-сахарской и 371 – афразийской.
Установить период, когда на земле звучали праязыки, давшие начало четырем семьям Гринберга, попытался Кристофер Ирет. Опираясь на археологические свидетельства, он установил, что протокойсанский язык появился около 20 000 лет назад. Язык-прародитель нигеро-конголезской семьи, вероятно, возник около 15 000 лет назад, поскольку младшая ее ветвь стала распространяться на западе Африки 8000 лет назад. Нило-сахарский праязык, по глоттохронологическим оценкам, мог родиться 12 000 лет назад.
Основные ветви семито-хамитской языковой семьи. В области, показанной как ареал древнеегипетского языка, сегодня говорят на арабском.
Общий интерес вызывает афразийская семья: к ее западной семитской ветви принадлежат иврит, арамейский и арабский – языки трех мировых религий. Многие считали, что колыбель протоафразийцев находилась на Ближнем Востоке: кто-то по разнообразным ненаучным причинам, кто-то потому, что Ближний Восток известен как ранний очаг сельского хозяйства, откуда растущее население должно было двинуться в Африку и принести туда свой язык. Однако, по мнению Ирета, более вероятным представляется африканское происхождение. Из шести основных ветвей афразийской семьи пять – африканские: берберская на северо-западе материка; чадская, локализованная вокруг озера Чад, лежащего на южной границе Центральной Сахары; кушитская с Африканского Рога; омотская с абиссинского высокогорья и древнеегипетская.
Если вспомнить правило, что территория наибольшего многообразия обычно и есть прародина, такое распределение ветвей убедительно указывает на север Африки как область происхождения афразийской семьи, откуда семитоговорящий народ вторгся, предположительно 9000 лет назад, на Ближний Восток. (Позже, приблизительно 7000 лет назад, часть этих людей вернулась из Йемена в Африку, принеся в Эфиопию ее основный сегодня язык, амхарский.) Также на африканскую родословную указывает порядок расщепления: первой от единого праязыка отошла омотская ветвь, затем кушитская. Поскольку и та и другая ветви не выходят за пределы Африки, это, как пишет Ирет, «устраняет всякие сомнения в том, что афразийский язык-предок существовал именно в Африке».
Хотя классификация африканских языков Гринберга сегодня признана, британские африканисты долго отвергали ее. В лингвистике, как и в других науках, специалисты склонны отвергать «универсалов», показывающих, как отдельные исследования из разных дисциплин складываются в целостную картину. Языковед из Университета Индианы Пол Ньюман вспоминает, как около 1970 г., спустя полтора десятка лет после первой публикации Гринберговской африканской генеалогии, приехал в лондонский Институт изучения стран Востока и Африки. Его предупредили, что он может без опаски входить в профессорскую комнату, только если ни разу не упомянет имени Гринберга.
Завершив классификацию африканских языков, Гринберг переключился на языки американских индейцев. Опираясь на археологические данные о том, что Америка заселена совсем недавно, Гринберг ожидал обнаружить там много меньше языковых семей, чем в Африке. Однако американская лингвистика на конференции 1976 г. признала, что на территории Американского континента существует не менее 63 отдельных языковых семей. Гринберг, применив разработанный для Африки метод массового сравнения, объявил, что языковых семей в Америке всего три: америндская, на-дене и эскимосско-алеутская.