Setelah lulus, Salim bekerja sebagai penerjemah dan pembantu notaris pada sebuah kongsi pertambangan di Indragiri. Pada tahun 1906, Salim berangkat ke Jeddah, Arab Saudi untuk bekerja di Duta besar Belanda di sana. Pada periode inilah Salim berguru pada Syaikh Ahmad Khatib, yang masih merupakan pamannya.
Pada tahun 1912-1915, Salim membuka sekolah dasar berbahasa Belanda, Hollandsch-Inlandsche School (HIS) atau disebut Sekolah Dasar Bumi Putera dengan statusnya sebagai sekolah swasta [4]. Kemudian pada tahun 1915 ia terjun ke dunia jurnalistik di Harian Neratja sebagai Wakil Redaktur. Setelah itu diangkat menjadi Ketua Redaksi. Agus Salim menikah dengan Zaenatun Nahar Almatsier dan dikaruniai 10 orang anak.[5] Kesepuluh anaknya ini dua diantaranya meninggal sewaktu kecil, sehingga kedelapan anak beliau terdiri dari empat orang anak laki-laki dan empat orang perempuan.[6]
Kegiatannya dalam bidang jurnalistik terus berlangsung hingga akhirnya pada tahun 1925 beliau menjadi Pemimpin Harian Hindia Baroe di Jakarta. Pada tahun 1927 Kemudian mendirikan Surat kabar Fadjar Asia bersama HOS Tjokroaminoto. Dan selanjutnya sebagai Redaktur Harian Moestika di Kota Yogyakarta dan membuka kantor Advies en Informatie Bureau Penerangan Oemoem (AIPO). Karangan beliau banyak di muat di beberapa surat kabar seperti Neraca, Mustika, Fajar Asia Hindia Baru, Keng Po Dunia Islam, Het Licht, Pujangga Baru Hikmah, Mimbar Agama, Moslemse Reveil, Indonesia Revue. [7] Bersamaan dengan itu ia juga terjun dalam dunia politik sebagai pemimpin Sarekat Islam.,
Karya tulis
Riwayat Kedatangan Islam di Indonesia
Dari Hal Ilmu Quran
Muhammad voor en na de Hijrah
Gods Laatste Boodschap
Jejak Langkah Haji Agus Salim (Kumpulan karya Agus Salim yang dikompilasi koleganya, Oktober 1954)
Presiden Sukarno dan Agus Salim dalam tahanan Belanda, 1949.
Di antara tahun 1946-1950 ia laksana bintang cemerlang dalam pergolakan politik Indonesia, sehingga kerap kali digelari "Orang Tua Besar" (The Grand Old Man). Ia pun pernah menjabat Menteri Luar Negeri Indonesia pada kabinet presidensial dan pada tahun 1950 sampai akhir hayatnya dipercaya sebagai Penasehat Menteri Luar Negeri.
Pada tahun 1952, ia menjabat Ketua di Dewan Kehormatan Persatuan Wartawan Indonesia. Biarpun penanya tajam dan kritikannya pedas namun Haji Agus Salim dikenal masih menghormati batas-batas dan menjunjung tinggi kode etik jurnalistik.
Setelah mengundurkan diri dari dunia politik, pada tahun 1953 ia mengarang buku dengan judul Bagaimana Takdir, Tawakal dan Tauchid harus dipahamkan? yang lalu diperbaiki menjadi Keterangan Filsafat Tentang Tauchid, Takdir dan Tawakal.
Ia meninggal dunia pada 4 November 1954 di RSU Jakarta dan dimakamkan di Taman Makam Pahlawan Kalibata, Jakarta. Namanya kini diabadikan untuk stadion sepak bola di Kota Padang.
^Syukur, Yanuardi (2017). Menulis di Jalan Tuhan. Sleman: Deepublish. hlm. 73. ISBN978-602-401-711-8.Parameter |url-status= yang tidak diketahui akan diabaikan (bantuan)
