check_flag.sでフラグが正しいかどうか判定しているので、check_flag.sを見てみる。
ざっとラベルを見ると、for文の中にif文があるような構造であることがわかる。
最初から見ると、mov QWORD PTR [rbp - 0x8], rdi でrdi=第一引数に入ってくるinputのアドレスがrbp-0x8に格納されている。この変数を仮にinputと置く。
またmov QWORD PTR [rbp - 0x10], 0で、もう一つ変数が用意されていることがわかる。
.for_endにあるadd QWORD PTR [rbp - 0x10], 1から、[rbp - 0x10]は恐らくforのカウントに使うiのような変数であることが察せられる。このことから[rbp - 0x10]を仮にiと置いてみる。
またcmp QWORD PTR [rbp - 0x10], 32から、ループを32回繰り返すこともわかる。
for文の中を見てみる。段落ごとに処理をまとめると、
-
mov cl, BYTE PTR [input + i] -
mov dl, BYTE PTR [key + i] -
xor cl, dl -
mov dl, BYTE PTR[answer + i] -
cmp cl, dl; -
jne .if_false
となっている。ここで、BYTE PTR [input + i]とは何か？と考えてみる。
-
inputは文字列のアドレスで、そのアドレスからiの分進んだ場所を指している。
-
BYTEで読みこむのは1byteで、これはchar型のサイズと等しい。
ということを考えると、inputのi番目の文字を表していることがわかる。C言語に直すとinput[i]である。
これを基に、疑似的にC言語に直してみる。
cl = input[i];
dl = key[i];
cl ^= dl;
dl = answer[i];
if (cl != dl) goto if_falseinput[i]とkey[i]をXORして、結果がanswer[i]でなかったらif_falseに飛ぶということがわかった。
XORにはA XOR B = CのときA = B XOR Cが成り立つ性質がある。
つまり、key[i]とanswer[i]をXORすれば必要なinput[i]が求まるのではないか？と考える。
そのようなプログラムを書くと、フラグが得られる。