Je suis d'accord avec Chimère.
Dans un roman, on peut tout faire (je viens de lire La Maison des Feuilles alors au niveau présentation de fou, je pense être vaccinée). Changer de police, mettre en gras, en couleurs, écrire à l'envers, inventer une langue...
Mais pour tout choix un peu "hors normes", tu dois pouvoir le justifier devant un éditeur et, pire encore, devant un lecteur relou comme moi. Parce que moi, je te demanderai des comptes si tu as un personnage qui hurle dans tous ses dialogues, sans que ça soit justifié par le contexte ou certaines règles internes au roman.
Pour reprendre l'exemple de La Maison des Feuilles (je te le conseille, si tu veux un exemple de typo particulière), la typo suit des règles. Pour certaines, on te les donne explicitement. Pour d'autres, tu le comprends assez vite.
Règle n° 1 : la police change en fonction de celui qui écrit (dans l'histoire, il y a plusieurs auteurs).
Règle n°2 : tout ce qui a été supprimé par un des auteurs est en rouge et biffé (quand ça a pu être récupéré) ou remplacé par d'autres signes selon la situation : [ ] pour les trous dans le papier, XXXX quand c'est irrécupérable...
Règle n°3 : le sens de lecture change en fonction d'où on est dans le labyrinthe.
Règle n°4 : le texte (et sa clarté) évoluent en fonction du degré de folie de son auteur.
et tout ceci est justifié par la principale règle : le labyrinthe, ce n'est pas seulement le roman (l'histoire) mais le roman (l'objet).
Donc, si tu as un personnage qui parle en gras, en vert ou en majuscules (ou capitales), il faut que ça soit justifié par autre chose que "je voulais faire un style différent". Il faut que, dans ton histoire, ton personnage ne puisse pas parler autrement qu'en gras, en vert ou en majuscules/capitales.
La seule explication que je vois à ce niveau pour les cris en majuscules et les chuchotements en plus petit, c'est un univers où ce que les personnages disent se reflète dans ce qui est écrit, un univers où il y a une forme de magie dans l'écriture (ça me fait penser à Coeur d'encre de Cornelia Funke ou La bibliothécaire de Gudule). Plutôt de la littérature jeunesse, donc.
Dans un genre destiné aux adultes (si on excepte la SFFF où les règles sont également plus souples), et sans vouloir me substituer à un comité de lecture, je ne vois pas d'éditeur qui accepterait ce genre de liberté, à moins que ça ne soit complètement assumé et totalement justifié.
En-dehors de la SFFF où il pourrait y avoir un lien de causalité entre l'histoire et la présentation physique du texte, je ne vois pas quel genre d'univers donnerait une explication à une telle présentation. Il faut tout de même une forme de "magie" (qu'on l'explique par des phénomènes surnaturels ou de la science) pour que l'histoire sorte de l'histoire...