No ubuntu as locales, variáveis que começam com LC_ e LANG/LANGUAGE, determinam em quais idiomas iremos interagir com o desktop.

Nós brasileiros podemos utilizar pt_BR para ter menus, mensagens, formatos: data, hora, monetário, separador de milhares no nosso formato nativo, ou então utilizar o padrão en_US. O problema ao se utilizar o pt_BR, é que quando nos deparamos com mensagens de erro e googlamos por elas, não conseguimos encontrar a solução. Portanto o ideal é: mensagens de erro (e também opções de menu, ajuda, etc.) em inglês e os formatos na localidade brasileira.

Para tanto, é preciso adicionar as seguintes linhas em /etc/environment e /etc/default/locale (na minha experiência deixando LANG em pt_BR continuou com mensagens em en_US):

LANG=pt_BR.utf8
LANGUAGE=en_US.UTF-8
LC_CTYPE=pt_BR.UTF-8
LC_NUMERIC=pt_BR.UTF-8
LC_TIME=pt_BR.UTF-8
LC_COLLATE=pt_BR.UTF-8
LC_MONETARY=pt_BR.UTF-8
LC_MESSAGES=en_US.UTF-8
LC_PAPER=en_US.UTF-8
LC_NAME=en_US.UTF-8
LC_ADDRESS=en_US.UTF-8
LC_TELEPHONE=en_US.UTF-8
LC_MEASUREMENT=pt_BR.UTF-8
LC_IDENTIFICATION=en_US.UTF-8
LC_ALL=

e seja feliz.