503エラーについて

最近、2日に1回くらい、夜になっちゃぁ503エラーでアクセスできないという事象が発生しています。503エラーというのは「Service Temporarily Unavailable」という表示が出る、あれです。
もしや、遭遇された方もいらっしゃるかもしれません。

たまにそうなるというのならさておき、一度503エラーが出始めると、2時間くらいはそれが続いてしまうので、それは大問題。その理由と言うのは、ふつうに考えれば、システム負荷が高くなり過ぎること。レンタルサーバのサポートに問い合わせてみたところ、共用サーバの別のユーザには問題が出ていなくて、うちだけそういう状態だったらしい。で、Apacheを再起動したら、なおりましたとか…。
額面どおり、システム負荷が高いというのなら、そうかもしれませんが、だいたい、digitalmorningなんて、悲しいかなそんなにアクセスは無いわけで、どうにも不思議だったわけです。

思いつくのは、最近、XOOPSに変えましたが、それがやたら重いとか?そこで、とりあえず、いくつかのモジュールはキャッシュを設定して、毎度、動的にコンテンツを作るというのをやめました。その効果は、今のところ、よく分からない。

続いて、アクセスログを見てみると、相変わらずBaiduspiderが大活躍している…。Googlebotの軽く4倍は来ている。ていうか、総アクセスの4分の1弱がBaiduspider。もう、ふざけるなと。
で、エラーログを見てみると、Baiduspiderによる「File does not exist」のエラーがたまりにたまっていました。要はNucleusからXOOPSに変えて、なくなったファイルというかURLがたくさん出来たのですが、Baiduspiderは相変わらず、なくなったURLを叩きまくっているようなのです。

て、ことで、この際、Baiduspiderの締め出し作戦に打って出ることにしました。robots.txtに書くとかいった甘っちょろい作戦ではなく、.htaccessで完全封鎖。
これで、どんなもんか。数日、監視していきたいと思います。

この記事を書いた人

井上 研一

株式会社ビビンコ代表取締役、ITエンジニア/経済産業省推進資格ITコーディネータ。AI・IoTに強いITコーディネータとして活動。2018年、株式会社ビビンコを北九州市に創業。IoTソリューションの開発・導入や、画像認識モデルを活用したアプリの開発などを行っている。近著に「使ってわかった AWSのAI」、「ワトソンで体感する人工知能」。日本全国でセミナー・研修講師としての登壇も多数。