Откройте рутовскую консоль и отредактируйте файл /usr/share/applications/gvim.desktop. Найдите строчку Exec=gvim %F и замените ее на следующее:

Exec=gvim --servername GVIM --remote-tab %F

Теперь при открытии файлов через Nautilus будет выполняться соответствующая команда. Если эта команда уже выполнялась ранее и экземпляр gvim еще запущен, в нем откроется новая вкладка с указанным файлом.

Чтобы это работало и в консоли, добавьте в .bashrc:

alias gvim='gvim --servername GVIM --remote-tab'