Szabó József 1940. október 18-án született a Tolna megyei Nagykónyiban. Szülei földművelők voltak, s ő maga is gyermekkorától fogva mindig részt vállalt a különféle mezőgazdasági ésház körüli munkákban. Ezáltal igen alaposan megismerte a hagyományos paraszti gazdálkodást, a falusi emberek mindennapjait, gondolkodásmódját és néphagyományait.
Az is nagyban hozzájárult szülőfaluja életének, hagyományainak megismeréséhez, hogy 18 éves koráig szülőfalujában élt.
Nemcsak általános iskolai tanulmányait folytatta itt, de középiskolába is bejáró diákként járt a tamási Béri Balogh Ádám Gimnáziumba. Bizonyára ezek együttesen is szerepet játszottak abban, hogy rendkívül erős kötődése alakult ki szülőföldjéhez és annak lakóihoz: rokonaihoz, ismerőseihez. Ennek az erős érzelmi kapcsolatnak a későbbiekben meghatározó jelentősége volt pályájában, nyelvészeti kutatásainak tematikájában, hiszen írásainak igen nagy része, köztük több könyve is szülőfalujának nyelvjárását és népszokásait dolgozza fel.
1959-ben került a Szegedi Tudományegyetem Bölcsészettudományi Karára, magyar – orosz szakra. A magyar nyelvészet iránti érdeklődése az egyetemen alakult ki és mélyült el. Elsősorban Nyíri Antal nyelvtörténeti előadásait hallgatva jött rá arra, hogy szülőfaluja nyelvjárásának mennyi értékes jellemvonása van. Ezeket már harmadéves korában elkezdte diákköri dolgozatként gyűjteni, s szövegközlésként publikálni. De nemcsak a nyelvészeti témák iránt nyílt meg érdeklődése az egyetemen: már elsőévesként megismerhette Bálint Sándort. A vele való találkozás is igen meghatározó lett számára, egyúttal későbbi munkásságának egy másik igen fontos irányt adott. Számos olyan írása van ugyanis, melyek nem csupán nyelvjárási forrásmunkák, adatközlések, hanem a tárgyi és a szellemi néprajz számára is fontos adalékul szolgálnak.
Diplomája megszerzése után előbb tanárként dolgozott Szegeden, de közben már óraadóként tanított az egyetemen, illetve a főiskolán is. Mindez folyamatos önképzésre ösztönözte. Ennek köszönhetően már 1966-ban megvédte bölcsészdoktori értekezését szülőfaluja dialektusáról (Hangtani jelenségek Nagykónyi község nyelvjárásában, Szeged 1966). 1970-ben tanársegédi állást kapott a BTK Magyar Nyelvészeti Tanszékén, attól kezdve nyugdíjazásáig ott dolgozott: 1973 és 1979 között adjunktusként, 1979-től 1993-ig docensként, majd 1993-tól egyetemi tanárként. 1988 és 1990 között a tanszék vezetője is volt, 1992 és 1997 között pedig a pozsonyi Comenius Egyetem Magyar Nyelvi és Irodalmi Tanszékén is tanított vendégprofesszorként.
Kezdetben nyelvtörténeti, leíró hangtani és mondattani szemináriumokat vezetett, de a nyelvjárástan oktatása is a feladatkörébe tartozott. Ez utóbbi egész további pályáján oktatói tevékenységének centrumába tartozott. Kandidátusi értekezését is ebben a témában készítette el 1978-ban (A mondatszerkesztés nyelvszociológiai vizsgálata a nagykónyi nyelvjárásban. Budapest 1983, 278 lap), de terjedelmes szövegkorpuszt is megjelentetett szülőfaluja nyelvi anyagából, majd elkészítette a nyelvjárás monografikus igényű feldolgozását is (A nagykónyi nyelvjárás. Szekszárd 1986, 309 lap).
Mivel már középiskolás kora óta kedvelte a történelmet, ezen belül is különösen a település- és népiségtörténetet, az 1980-as évek közepétől egyre inkább a nyelvjárásszigetek problematikája felé fordult a figyelme. Több idevágó értekezése mellett ebben a témakörben készült el akadémiai doktori értekezése is, melyet 1992-ben védett meg (Magyarországi és jugoszláviai magyar nyelvjárásszigetek. Békéscsaba – Kecskemét – Szeged 1990, 418 lap).
Kutatói aktivitása később is töretlen volt, ám vizsgálati horizontja fokozatosan szélesedett. A nyelvjárásszigetek vizsgálatán túl egyre jobban foglalkoztatták a névtani kutatások is, majd figyelme egyre inkább a népnyelv metaforikus kifejezései, valamint a török hódoltság nyelvünkben is továbbélő emlékei felé fordult. Idevágó kutatásait, melyek tanulmányokban is testet öltöttek, monográfiaszerűen is összefoglalta A népi szemléletmód tükröződése nyelvjárásaink szókészletében című könyvében (Szeged 2007, 184 lap), illetve A török hódoltság néprajzi és nyelvi maradványai földrajzi neveinkben című kötetben (Szeged 2008, 201 lap).
Tagja volt számos tudós társaságnak is, köztük a Magyar Nyelvtudományi Társaságnak választmányi tagja is volt, de közreműködött a Nemzetközi Filológiai Társaság, valamint az Európai Nyelvatlasz Magyar Nemzeti Bizottságának munkájában is, sőt amikor 1998 októberében megalakult a német dialektológia nemzetközi társasága (Internationale Gesellschaft für Dialektologie des Deutschen), az ottani kollégák felkérése nyomán csatlakozott annak tagjaihoz is. Nyelvjáráskutatói munkájáért, valamint a földrajzi nevek gyűjtésében és közzétételében végzett tevékenységéért 1982-ben Csűry Bálint-emlékéremmel tüntették ki, 1999 és 2002 között pedig Széchenyi Professzori Ösztöndíjas volt.
Nagykónyi Község Önkormányzat Képviselő-testülete Dr. Szabó Józsefnek, Nagykónyi nyelvjárás tudományos kutatásában végzett kimagasló nyelvészeti munkája elismeréseként Nagykónyi Díszpolgára címet adományozza.