瓊斯出生於1931 年的密西西比州阿卡布特拉小鎮(Arkabutla),當地現在也不算繁榮,當時的普通黑人生活也就更清貧了,據他回憶,小時候是沒有電力的,屋內照明靠的是油燈,父親試圖去追求拳擊手的生活,之後很一段時間沒有聯絡,母親也無力扶養,只能帶到密西根州由祖父母照顧。瓊斯在他的自傳《聲音與沉默》中寫道:「對我來說,一個安全的童年世界結束了,這是一次令人心碎的經歷,我感到自卑,於是說話也不清楚了,出現口吃。」
由於不好意思說話,他多年來幾乎保持沉默,用手寫筆記與老師和同學交流。所幸,一位富有同情心的高中老師克勞奇(Donald Crouch)得知這個男孩寫詩後,請瓊斯在課堂上大聲朗讀,並獲得班上同學的鼓勵,他的語言能力開始好轉,不但恢復自信,而且也愛上表演。瓊斯在書中回憶道:「自此以後,我樂於演講、辯論、演說和表演。」
在密西根大學,他未能通過醫學預科考試,轉而學習戲劇,並打了四個賽季的籃球。 1953年至1955年,他在陸軍服役。退伍後決心前往紐約舞台劇圈發展,他搬去和久為聯絡的父親住在一起,父子倆在尋找演藝工作的同時,也給劇院清滅,為地板打蠟以養活自己。
他的首次電影演出是庫柏利克的《奇愛博士》(Dr. Strangelove or: How I Learned to Stop Worrying and Love the Bomb),瓊斯飾演的是擔任核武打擊的B-52轟炸機飛行員,這是個小角色,但也因此爭取到更多演出機會。1965 年,瓊斯入選日間劇《讓世界轉動》(As the World Turns)的演出機會,成為最早出現在電視劇的非裔美國演員之一,此後就一直在影劇圈工作到80 多歲,贏得了兩項艾美獎、一項金球獎、兩項東尼獎、葛萊美獎、國家藝術獎章、甘迺迪中心榮譽獎、東尼獎終身成就獎與奧斯卡榮譽獎。 2022 年,百老匯劇院以他的名字重新命名。
他第一個主角演出是1970年的拳擊傳紀電影《拳王奮鬥史》(The Great White Hope),飾演拳擊手傑克強森(John Arthur Johnson),他的表演受到評論家的好評,並為他贏得了奧斯卡最佳男主角獎提名。著名拳王穆罕默德阿里(Muhammad Ali)顯然特別喜歡這部電影,1977年,請瓊斯參與阿里自編自製的自傳電影《阿里傳》(The Greatest),瓊斯出演黑人平權領袖麥坎爾X(Malcolm X)。很大程度上,《拳王奮鬥史》與《阿里傳》開啟了好萊塢拳王傳紀電影與黑人平權運動這個門類。
之後,瓊斯在多部好萊塢電影中演出,包括《王者之劍》、以及《獵殺紅色十月》、《愛國者遊戲》和《迫切的危機》。但是最令人印象深刻的是他的嗓音,1977年,喬治盧卡斯請瓊斯來為《星際大戰》的著名大反派達斯維德配音,因為原先的演員大衛普勞斯的聲音不夠有威脅感。瓊斯爽快的答應了,但是他認為配音僅「特效工作」,所以拒絕在片尾字幕掛上名字,直到1983年的《星際大戰:絕地大反攻》才在片尾字幕出現瓊斯之名。
在《星際大戰》的經歷後,愈來愈多團隊請瓊斯獻聲,成為美國最著名的低沉嗓聲,除了達斯維德,迪士尼動畫《獅子王》中,瓊斯是老獅王木法沙(Mufasa)的聲線。
他對配音工作不在乎形象,經常用最磁性的聲音,講最搞笑的台詞,比如2006年喜劇片《命運好好玩》(Click),擔任男主角人生的幕後旁白,直接拿自己的聲音當笑哏。
在他過世消息傳出後,演藝圈的懷念文超級多。喬治魯卡斯在給美聯社的聲明提到「詹姆斯是一位令人難以置信的演員,在藝術和精神上都有著最獨特的聲音。近半個世紀以來,他一直是達斯維德。他為自己演出所有角色賦予了深度、真誠和意義。」