Le mode simplex désigne un fonctionnement unidirectionnel. Un modem est chargé d'émettre les données, l'autre de les recevoir.
Le mode semi-duplex (ou half-duplex) permet tour à tour à chaque modem d'émettre et de recevoir des données. Les transferts de données sont autorisés dans les deux sens mais jamais en même temps.
Le mode duplex simultané (ou full-duplex) désigne un fonctionnement bidirectionnel simultané. À tout moment, les deux modems peuvent recevoir et émettre des données. Cela est simple à réaliser sur une liaison spécialisée à quatre fils mais pose quelques problèmes spécifiques sur une liaison à deux fils.
Le mode duplex simultané peut être symétrique. Dans ce cas, les deux modems émettent au même rythme. Il arrive cependant que la liaison soit dissymétrique et offre des débits différents dans chaque sens. C'est typiquement le cas des liaisons entre un terminal et un serveur distant. Le débit nécessaire à la transmission de données issues d'un clavier est faible si on le compare au débit nécessaire au rafraîchissement de l'écran.
Une liaison bidirectionnelle simultanée peut être réalisée à l'aide d'un multiplexage en fréquence. L'établissement de la communication permet de désigner un modem appelant et un modem appelé. La répartition des fréquences se fait généralement ainsi: le modem appelant émet dans la bande de fréquences la plus basse et reçoit dans la bande la plus haute. Pour le modem appelé, c'est évidemment le contraire. L'inconvénient majeur de ce procédé est de diviser par deux la bande passante disponible pour chaque sens de transmission.
Il est également possible de simuler une liaison duplex simultanée à l'aide de modems semi-duplex équipés de mémoires tampon (buffers). Des procédures de contrôle de flux se chargent alors de commuter le sens de transmission des données selon les besoins. Le débit global de la liaison est, là encore, partagé entre chaque sens de transmission. Cette technique est peu performante dans le cas de transmissions sur le réseau téléphonique commuté à cause des temps de propagation qui ralentissent les changements de sens de transmission.
La méthode la plus efficace et la plus utilisée dans les modems à haut débit utilise l'annulation d'écho. Cette méthode permet de superposer sur une même paire de fils, au même instant et dans la même bande de fréquence un signal émis et un signal reçu.