お恥ずかしい話ですが、納得できないので教えてください。

「26で割った余りを新たな文字番号とする」という箇所があり、「６を２６で割ると余りは６」と考える部分があります。実際には６を２６で割った場合、答えが０．０７までいくと余りは１８になります。
整数で考えるのがルールなのでしょうか？

例えば「30を5で割る」を考えてみます。
30の中に5が幾つあるかと言えば、6個であり、余りは0です。

問題文に戻って「26を26で割ると余りは0」は？
→26の中に26が幾つあるかと言えば、1個であり、余りは0です。

それなら「6を26で割ると余りは6」は？
→6の中に26が幾つあるかと言えば、0個であり、余りは6です。

ありがとうございます。ても、小数点以下は考えないものでしょうか。

問題文読んでますか?
ある英大文字を暗号化するにあたり、それぞれの文字に番号(整数)を割り当て、示された手順に則って別の番号(文字)へ変換しようとしている訳ですよね。

この計算の目的として実数を求めることに意味がありますか？
実数から、何等かの英大文字が得られる手順になってますか？

計算云々ではなく、元々の目的を理解しましょう。

例えば6÷26を筆算で小数第一位まで計算した時、8の余りが出てきたように見えますが、実際は8ではなくその10分の1である0.8です。解も同じように10分の1、100分の1……と小さくなっていくので、特別意識せずに計算できるだけです。
0.8に対応する文字番号はないので、有効な数字は6のみです。

そもそも「割り算の余り」という概念自体が、答えが整数である前提のものだと思います。
小数点以下まで求める必要がある場合は、「小数第○位を四捨五入（または切り上げ/切り捨て）」といった表記になるはずです。

みなさまありがとうございます。
特にレイ様の解説がわかりやすかったです。
このような問題についての常識というものが大変参考になりました。