En 1881, Mendele s’établit à Odessa où il trouve une source de revenus stable. Dans les années qui suivent, sa création littéraire atteint son apogée. Jusqu’alors, il écrivait soit en hébreu, soit en yiddish, selon les périodes, mais à Odessa, il envisage l’écriture dans ces deux langues de façon conjointe. Cette période représente un immense pas en avant, tant dans l’une que dans l’autre.
Il publie alors de nouveaux ouvrages en hébreu et en yiddish et, à partir de la fin des années 1880, se met à remanier complètement ses œuvres yiddish antérieures, tant du point de vue du style que de la structure. En 1888 paraît la version élargie du roman Fishke le boiteux, ainsi que la première partie de la version complète et beaucoup plus longue de L’Anneau magique, dont la suite paraîtra en feuilleton jusqu’en 1909.
Mendele passe les trente-six dernières années de sa vie (1881-1917) à Odessa. À cette époque, la ville est devenue une métropole et un important centre économique et culturel. Dans la population juive, on compte beaucoup d’intellectuels. Il s’agit pour la plupart d’assimilationnistes qui prônent la russification, mais certains d’entre eux, d’orientation juive nationaliste, joueront un rôle essentiel dans le développement des littératures yiddish et hébraïque modernes. Un cercle d’intellectuels éminents, connu sous le nom de « Groupe d’Odessa », se forme alors autour de Mendele. Il comprend des personnalités comme le théoricien du sionisme Ahad Ha’Am (1856-1927), l’écrivain classique Sholem-Aleykhem (1859-1916), l’éditeur et journaliste Yoyshue-Khone Ravnitski (1859-1944), l’historien Simon Doubnov (1860-1941), l’écrivain Sh. An-ski (1863-1920) et le jeune poète Khaim-Nakhmen Bialik (1873-1934).
L’étape suivante du projet littéraire bilingue de Mendele est une entreprise monumentale : l’auto-traduction de ses principales œuvres yiddish en hébreu. Après avoir publié en 1896 la version hébraïque de Masoes Binyomin hashlishi (Les Voyages de Benjamin III), qui porte le même titre que la version yiddish de 1878, Mendele commence l’adaptation en hébreu de L’Anneau magique, sous le titre Be’eymek habokho (Dans la vallée des pleurs). Elle paraîtra en feuilleton entre 1897 et 1909. En 1909, il publie Seyfer hakabtsonim (Le Livre des pauvres), une version hébraïque remaniée de Fishke le boiteux. Entre 1909 et 1910 paraît en feuilleton Susosi (Ma jument), basé sur le roman yiddish Di klyatshe (La Haridelle).
Dans ses mémoires, Sh. An-ski rapporte que Mendele comparait le fait d’écrire simultanément en yiddish et en hébreu à celui de respirer par les deux narines. Cet emploi parallèle a en effet conféré, tant à son style qu’aux langues elles-mêmes, un dynamisme et un raffinement de plus en plus remarquables. Son dernier grand roman, une autobiographie littéraire, a été écrit entre 1899 et 1912 en deux versions parallèles : Shloyme reb Khaims (Shloyme fils de Khaim) en yiddish, et Khayey Shloymo (Vie de Shloymo), suivi de Bayomim hoheym (En ces jours-là) en hébreu. Une génération entière, de lecteurs aussi bien que d’écrivains, a trouvé dans son œuvre une inspiration culturelle féconde dont on peut encore apprécier les fruits aujourd’hui.
« Pourquoi ? Pourquoi ? Pourquoi ? » Dans un épisode de Fishke le boiteux, l’auteur raconte comme en passant une remarque antisémite adressée à Mendele et à son ami Alter par des paysans. « Alter ne s’est pas senti particulièrement touché par leurs moqueries », écrit-il. « Moi, en revanche, je l’ai été : “Mon Dieu, me suis-je dit, pourquoi ? Pourquoi ? Pourquoi ?” ». Ces trois « pourquoi ? » formulent la question fondamentale qui n’aura cessé d’occuper son œuvre. Bialik, qui a traduit des extraits de Fishke le boiteux en hébreu (1901-1902), a repris ce triple « pourquoi » dans sa « Ville du massacre » (long poème écrit après le pogrome de Kishinev en 1903). Les victimes « y répètent silencieusement cette ancienne question / Qui n’a jamais encore atteint le ciel / Et qui jamais le ciel n’atteindra : / “Pourquoi, pourquoi ?” Et encore une fois : “Pourquoi ?” ».
