。(読点)
、(句点)
「(カギ括弧)
」(カギ括弧)
ー(長音記号)
…(3点リーダー)
などです。通常の文字では縦書きでも横書きでも、同じ文字の形が使えますが、こういった記号類は形が変わってしまうからです。
PDFファイルの透明テキストの編集をしていて、対象が縦書きだと大変です。

それでも、カギ括弧や長音記号はキーボードから直接入力ができるからいいのですが、「"」(引用符)の全角タイプはいろいろとあって大変です。実際に入力をして表示してみないと分からないからです。
OCRによる、最初の結果です。引用符(ダブルコーテーション)の認識が誤っています。
反応はφ無理、無理。堪忍してよeとい、?ものでした。
とんでもない文字になっています。(「いうもの」が「い、?もの」になっているのは、今日のテーマとは関係ありません。)
一般的なダブルコーテーションを使ってみます。
反応は“無理、無理。堪忍してよ”とい、?ものでした。
PDFの透明テキストとして貼り付けてみます。(表示フォントはMSゴシック)

位置も向きも違和感があります。元の印刷物とも違います。
“や”は横書きにはいいけれども、縦書きには使えない、ということになります。
ただ、透明テキストとしてコピーをして使うには、一応問題ありません。
こちらはどうでしょう。
反応は無理、無理。堪忍してよとい、?ものでした。

横書きの表示でも縦書きの表示でも、オリジナルに近い感じです。
やは横書きにはいいけれども、縦書きには使えない、ということになります。
さて、普段から迷っていることで読点(「、」「,」)があります。
横書きで「,」が使われてるのをよく目にします。そもそもこれはかなり前に文部省が「横書きでは「,」を使うことを推奨する」というようなことを言ったのだと記憶しています。
次のような文章を用意します。テキスト表示(正確に言うと、フォント指定のない当ブログでの横書き表示)ですと、「、」「,」ともに違和感はありません。
最初は,横書きで「,」を入力。
次に,横書きを縦書きにします。
代わりに、通常の「、」を使ってみます。
これをワードに貼り付けてみます。最初は横書きです。

もちろん、最初のテキスト表示(横書き)の場合と基本的に同じです。
これを縦書きにします。

「,」は変です。縦書き表示や縦書き印刷では使えません。
カギ括弧や句点、読点、(ここにはありませんが)長音記号などはみな縦書き用にワープロが変換してくれます。
文部省が「『、』の代わりに『,』を」と言った頃にはデジタルデータのことなど想定をしていなかったので、こんな不便さに気がつかなかったのでしょう。