無かったので ※追記 2023/03/23(木) 22:20:59
さんG統計部さんU支部
http://etc.3chan.jp/test/read.cgi/liveuranus/1678975374/ ※tlv=5
統計ニキじゃないけど助かる
統計ニキ来るかね
あっちにスレ告知はしたよ
!hogoで>>1は5日ルール回避できるけど忍法帖lv5消費するかもしれないから気をつけて
122 アフィサイトへの転載は禁止です。 2023/03/23(木) 21:40:59.76 ID:XBqgyxP00
防弾Uは5日間ルールあるの?
133 管理モメン ★ 2023/03/23(木) 21:45:52.69 ID:ADMIN
> >122
防弾Uにはないです
スレ主や運営が落とすか保持数をスレ番が下回るときのみ落ちます
通常のスレ順dat落ちはあるのね
関連スレ
さんG統計部さんU支部
http://etc.3chan.jp/test/read.cgi/liveuranus/1678975374/
一応
!hogo
まだよう分からんけど書いとくで!
!add
さんG統計部さんU支部
http://etc.3chan.jp/test/read.cgi/liveuranus/1678975374/
せっかくデータ溜まってきたのに崩壊して草
魚拓取っとくんやぞ
>>1
サンガツやで〜
防弾Gは野球実況の可否で3Gと大きく変わってくるかもしれない
来たわね
前に問題出してくれてたニキもおるやろか
最近の書籍は見てないから分からんけど、p値について前にワイが見たのだとこういうのがあるんや。既に知っとるかもしれんけど紹介しとくで
佐藤俊哉. ASA 声明と疫学研究における P 値 The ASA Statement and P-values in Epidemiologic Research
https://www.jstage.jst.go.jp/article/jjb/38/2/38_109/_pdf
統計的有意性と P 値に関する ASA 声明
https://www.biometrics.gr.jp/news/all/ASA.pdf
イッチ!subで統計ニキ福スレ主に指定してくれんか?
!sub: nEfUGjn10
指定はスレのIDとかでええんやろか
コマンド一覧
https://wiki.sannan.nl/w/index.php/%E3%82%B3%E3%83%9E%E3%83%B3%E3%83%89%E3%83%BB%E6%A9%9F%E8%83%BD
sub:nEfUGjn10
すみません指定は忍法帖ID(名前欄に表示される6桁のもの)で行います
副主になる人が名前欄に!ninidを入力されれば表示できるので
主はそれを指定してください
今回はこちらで指定しておきます
!sub:f9b6f5★f9b6f5を副主に追加
こうか?
>>18
移住先ありがとやで。
ここで活動について質問してるんで、
よかったらみててクレメンス
https://sannan.nl/test/read.cgi/unsaku/1658627617/662
もともとさんGで発作的につくったもんやから
ダメならダメでまあええで。
もしくは、管理モメンが公式で作る予定なら
それでもええんや
サンキュー管理モメン!
お、もうやってくれてんのか!
サンガツ!
もちろん部への参加も歓迎やで!
662 アフィサイトへの転載は禁止です。 (L5-f9b6f5✅) (ワ HwdU-d0aI):2023/03/23(木) 23:14:55.88 ID:yu0qb/3U0
さんGでsubject.txtから各スレのdatファイルスクレイピングして、
こういうの作ってたんやが、防弾なんGでやってもええか?
https://i.imgur.com/weYyAEf.png
今のアクセス間隔はだいたい15分に一回や
ちょっと感覚狭すぎたり、そもそもダメなら諦めるやで。
仕様はここも3chもあんまり変わらんからちょっと修正すればいけると思う。
↓ここで活動する予定や
さんG統計部さんU支部
https://etc.3chan.jp/test/read.cgi/liveuranus/1678975374/
663 管理モメン ★:2023/03/23(木) 23:19:08.80 ID:ADMIN
>>662
いいですよ
管理モメンの公認貰えたのか よかったよかった
防儲も書き込み増えてるな
ええことや。防Gやったら防儲もスクレイピングするか
ワイ実はもともとケンモメンなんや
防儲も増えてるんか
経緯的には元々防儲がメイン?なんだよね。あんま見たことないけど
>>28
せやね
ケンモメンの理想郷目指して作られた
板のほぼ初期からのデータとれるのは楽しいな
さんG統計部さんU支部、お亡くなりになりました😭
南無南無
書き込んだら息吹き返したわ
因みに書き込み数は3G時代と比べてどうなったんや?
>>34
まだとってない、2.3日まって・・
>>35
はいさい!
>>14
サンキュー読んどく
なん見たことある気がするけど
dat落ちしちゃったわね
統計部は5chも頼むわ
いつも使ってるサイトが使えん
アマゾンのあの書籍リストとgistのURLみたいわ
アマゾンのはこれかな?gistはわからない
https://www.amazon.jp/hz/wishlist/ls/NKQK1KIT3L1D?ref_=wl_share
>>41
助かる
こっちはこっちで独自機能があるから
スクレイピングの関数修正しなきゃあかんかったわ、もうちょい時間かかりそう
忍法帖と安倍晋三ガチャでエラーでる
上できかれたから、ここまでのソースあげておくわ、汚いよ
https://gist.github.com/dory-dd/4cef97914ce3dd45d2b3d3f4cd1b5feb
extract_thread_content_from_dat関数のところで頭が働かなくて止まってる
scraper.pyでdatファイルをスクレイピング
db_thread_detail_data.pyで上記をDB保存
analize_thread.pyで分析用のviewを作成
index.pyでグラフを表示してる
保存と分析は結構あいまいな感じでやっちゃってるけど
キモは
extract_thread_content_from_datのルールと
いま、mainで書き換えようとしているscrape_all_thread_contents_from_list(url)をマルチスレッドで実行すること
あとは insert_to_table1だね
他の部分は基本viewだから、あとからなんとでもなるし
viewの作成はちょっとだけ複雑なことやろうとしてたから、sqlite3の方言SQLになっちゃってるところもあってごめん
なんかポリシーがあると、すれば、
・スレの内容をすべて保存する
・分析は可能な限りSQLでやる
・SQLで無理な部分をpythonでやる
かなあ
こんなん作ってると頭FAXになるよ
#fax_word = ["酸妄","在る","在るな","下民", "折れ","マンカス","だからな","どうする?","である","FAX時代","FAX氏","ノレカス","鼻ゴミ","障害者共","知恵遅れ"]
extract_thread_content_from_dat(data)はもう配列の番号で指定しない方がいいのかなあ
雑やけどイッチscrapy使うつもりある?
多分サーバーへの負荷減らせるで
エラーバンドリングしてて偉い🤗
scraper.pyでdatファイルをスクレイピング
db_thread_detail_data.pyで上記をDB保存
ここはscrapyで出来るから結構楽になるはずや
>>53
そんなんあるんか、ちょっと調べてみるわ
>>50
SQLで処理は面倒やな
そこそこ難しいものでも出来ちゃうからやりたくないんや
解析たまに見てるで
支援age
scrapyはちょっとでかすぎるから、とりあえず既存のコード修正で対応することにするよ
>>57
このスクリプトはワイのデスクトップPCでWSLで実行してるんや、だからPCの稼働に影響でない程度の速度を出したいから、なるべくSQLでやりたいんよ
>>59
SQLのほうがnumpyより軽いんやな
以外やわ
あれCで書かれてるのに
あー、numpyかあ
numpyは使ってないねえ
なんとなくselectでまず抽出した方がメモリを抑えられるかと思ってたんだけど、viewだからあんま変わらないかな・・
その方がデータ層とビジネスロジック層を明確に分離できる気がして
ということは早さというか、ロジックの明快さかな?
といっても、まだそんな高度な分析はしてないから、時系列分析程度だからという理由もある
今後、高度な分析になったら、numpyで分析した結果をinsertする機会もあるかも
正直子宮で考えてるから・・・子宮ないけど
やっぱり安倍晋三ガチャでエラー出る
いや、微妙に仕様違うな・・
datファイルとかってどこかに共同で保存しとるんか?
それともスクレイピングオンリーなんか?
各々が纏めて上げる場所があるとええな
getuploaderだと容量少なすぎるか?
>>69
現行はこの形式やね
https://sannan.nl/livegalileo/dat/1679922260.dat
データだけDBに保存しとる
光明が見えてきた
嫌儲もやろうと思ってたんやが、この方法だとちょっと苦しいな・・・
というか、嫌儲って4万レスあるうちの半分以上安倍晋三ガチャやないか?
ええやろ、件数調べるだけなら
実行時間は 3.737229108810425 秒です。
db_livegalileoの登録レコードは: 5489
正しい値は: 5491
一致率は:99.96357676197414%
エラーが出るから大体ないように置き換え件数
[('[梨] 防G安倍晋三部2発\u3000コンマゾロ目で虚偽答弁00で山上99でビデオレター29で美しい国14でジューシー', 665), ('防G無職ニートフリーター部', 7), ('FAX特定して殺したいけど勝川は遠い', 5), ('防弾なんG文化保存部', 2)]
安倍ガチャ除けば0.2%のエラーレコードだから、まあええやろ
なんUは少し事情がちがうな
[('🥺防U絵文字部🥺', 72), ('[梨] 😐ぬぇーふ', 61), ('[梨] 🥺ぷゆゆ集落🥺', 23), ('防弾遊戯王マスターデュエル部', 15), ('🏮防U酒部🏮', 14), ('[梨] キチゲ解放所', 13), ('⚾防U野球雑談総合部⚾', 6), ('[レスOK]防Uチラシの裏部', 3), ('新設しました [管理モメン★]', 2), ('防U統計部', 2), ('ぷよぷよ&テトリス部【その他パズルゲームもいいよ♥】', 2), ('【告知】忍法帖レベル4になるとレベル上げに認証が必要です [管理モメン★]', 2), ('防U 将棋部【雑談・実況・対局・リレー将棋あり】', 1), ('【ゲームから】防G割れ部総合【B-CASまで】', 1), ('BB2Cから書き込めないんだけど', 1), ('防G無職ニートフリーター部避難所', 1), ('【告知】!sub:相手の忍法帖ID\u3000で副主を指定できるので、複数人でスレを管理できます [管理モメン★]', 1)]
絵文字部とぷゆゆあたりはコマンド使いすぎてまったくとれないけど、まあしゃあないやろ・・
エラーレコード:220
db_liveuranusの登録レコードは: 3103
エラー率7%か
うーん、たぶん最大でこんなもんかな。許容したい
大体こういうスレってIDないから、分析の対象外になるんよな・・
あっ忍法帖のレベル集計とかするう?
しねーよなー
ちょっと横道に逸れたけど、日付変わってからのユニークID数823だって
>>80
結果とかそろそろ匿名化して言ったほうがいいラインに到達しつつある気がするわ
おすすめ(ワイはまだ読めてない)
https://images-fe.ssl-images-amazon.com/images/I/91t9cyxxJaL._AC_UL210_SR210,210_.jpg
https://images-fe.ssl-images-amazon.com/images/I/81lgrsYtXGL._AC_UL210_SR210,210_.jpg
あ、マスキングね
Error code 520だってなにこれ
不明なエラーってなんやねん
ちょっとアクセスしすぎたか
うーん、急にアクセスしすぎだか
gistを最新にした。とりあえずanalize_thread.pyとindex.py以外は動く
cloudflareがさぁ!
VPNがさぁ!
やから遅くしたりするんやで
現状のコードならスマホで実行出来るからルート化すりゃええんちゃうかな
ルート化すればIP切り替えるの楽やし
テーブルの例
https://i.imgur.com/NdOjcIs.png
extract_thread_info_from_lines()の概念
https://i.imgur.com/FRKsdNF.png
防弾嫌儲で統計取ってる人がいた🙄
【独自研究】防弾嫌儲、さんG移民が流れ込み書き込み数が8倍になる [ioT3★]
http://sannan.nl/test/read.cgi/news1/1680048325/
やっぱりどこも統計部あるんだな
てか5chではやらないんか?
発祥が3Gだし5chはsparrowがある上にレコード数多すぎるから厳しいのでは?
まあ統計ニキ次第だけど
そもそも発端が3chに勢い可視化する機能がないみたいな話じゃなかったんけ
5chにはあるから要らんって事ちゃう
>>96
それワイだよ
だいたい三男は全部の板に対応できるから、
G,U,嫌儲はデータとった
特に嫌儲はあんまり動きがないし、スレ保持数が多くて現状のスレだけでもかなり分析できそうだったから
>>98
めんどうくさいし、ワイ5chみてないからあんまり興味もないかなって
520エラーのせいで、ついにだんGをみれなくなって草
dat取得せずに、subject.txtだけで勢力図できないものだろうか?
subject.txtだけなら、5chでも取得できるから、いろんな勢力図作れそう
5chの過去ログって専ブラじゃなければ普通にGETできるんやな
時間毎にsubject.txtを取得&前回のと比較して、落ちたkeyのスレをread.cgiで過去ログ取得&htmlをパースってやるとリアルタイム性は落ちるけどリクエストの回数減らせるから弾かれなさそうな感じ
まだ30分くらいしかぶん回してないからこの先わからんけど
ほほー。もう対応してましたか。
subject.txtだけなら、10分に1度ぐらいは大丈夫じゃない?
落ちたやつは、あきらめてもいいかもしれませんね
(10分以内のレス増加数は誤差範囲内として)
>>105
>subject.txtだけなら、5chでも取得できる
そうなんだ、これは知らなかった
弾かれるのはもう大丈夫っぽい
なんUと嫌儲は一日一回クローニングで大丈夫そうだな
>>105
自然言語処理が必要そうだね
統計処理だけでいけるのかな?
dat取得すればガチの勢力図作れるけど面倒やわ
今日はコード書けんかった
htmlパースはちょっとなあ・・・
でも5chのsubject.txt収集は既存の関数使い回せるからいいね。テーブルを一つ用意するだけで事足りるし。こんな感じかね
CREATE TABLE IF NOT EXISTS {table_name} (
site_name varchar(10),
board_name varchar(30),
thread_key(11) NOT NULL,
thread_title varchar(256),
res_number INTEGER NOT NULL,
created_by TIMESTAMP NOT NULL,
PRIMARY KEY (thread_key, res_number)
);
board_name varchar(30)もいらないか。20で充分だな
50はgone規制あるからここみたいにクソみたいなリクエスト送ると即何も取れなくなるで
>>107
あと、そのままだとdatのnot foundでエラーでるよ。scraper.pyのmain処理にエラーハンドリング追加しといたからみといて
これで動いてる
>>116
そういえばそうだったね、前やられたことあるわ
5chのgoneはUA設定してないなら設定する・UA設定してても別のUAに変えるとワンチャン乗り切れるかもしれない
勿論引っかからないのが第一だけどあんまり細かくは見てないっぽいので万が一引っかかっても次からリクエスト間隔にさえ気を付ければ最悪User-Agent:unkoなんかでも通る説が濃厚
ちょっとgistだと使いづらくなってきたから整理するわ
>>106やけど昨晩の5Gの約6万書き込み分のデータまとめたので置いとくわ
時系列ぐちゃぐちゃやし整形もしてないけど一応試行段階でこんな感じで取れたってことで
https://dotup.org/uploda/dotup.org2965239.csv.html
ちなみに今もVPSからぶん回してるけど規制かかったりはしてなさそう
>>121
ええやん!自分でコード書いてたんやな!
5chと比較できると色々できるな最高やん
あとで精査してみるな
スクレイピングの参考になるスレのURL知らない?
安倍晋三とかjienとかワッチョイとか
これ下手にdatでスクレイピングするよりhtmlからパースしたほうが正確にスクレイピング出来そうだな…
>>121
なんGやな
key,
thread_title,
res_num,
name,
email,
comment_date,
post_id,
comment,
やね、だいたいワイのと同じやね
ここよりなんGとかのほうがコード書くの楽やな
途中の変更起こらんから
gist消えとるな
パースの参考にしようと思ってたやんけど
>>121
このデータpandasで読み込もうとしてるけどダブルコーテーションがついてたり付いてなかったりしてpandas君で素直に読み込んでくれなくて悲C
前処理に一番時間かかるやつやね😔
>>129
って書いた瞬間に上手く行くやつやね
かなC
2時間くらい消費したのに
まあでもスレタイにカンマ使われてたら壊れるやろな
ワイも触発されてメカブまで入れてみた明後日あたりデータで遊んでみよう
お、ワイなんGデータ洗浄したよ。
あげなおそうか
とりあえずれこれなhttps://i.imgur.com/AU1aQmF.png
これでdfにできてる
# カラム名の指定
columns = ["key", "thread_title", "res_num", "name", "email", "comment_date", "post_id", "comment"]
# データ型の指定
dtype = {"key": "Int64", "thread_title": str, "res_num": "Int64", "name": str, "email": str, "comment_date": str, "post_id": str, "comment": str}
# CSVファイルの読み込み
df = pd.read_csv(csv_path, names=columns, dtype=dtype, parse_dates=["comment_date"], na_values=[""])
# 欠損値の埋め方を指定
df = df.fillna({"key": 0, "res_num": 0})
# 「Over 1000」を除外
df = df[df["comment_date"] != "Over 1000"]
# comment_dateカラムを日付型に変換
df["comment_date"] = pd.to_datetime(df["comment_date"], format="%Y/%m/%d(%a) %H:%M:%S.%f")
>>133
なんGのCSVの方は大丈夫や多分
防Gのデータ拾ってくるときのパースとかが正確にやるの面倒やなってくらいやな
スレの途中で変わるからしゃーないんやが
>>121
pandasで素直に取るとレス内にカンマが含まれてるとpandasのreadcsvが壊れるから
,"[^"]+,[^"]+"$
とかで該当レスの前処理してカンマを変換するなりしてくら使うとうまく行くわ
またはread_csvのerror_bad_lines=False,とかでエラーの行ガン無視か
https://i.imgur.com/FTaDklj.png
このデータを可視化
https://dotup.org/uploda/dotup.org2965239.csv.html
青がIDで赤がスレ
IDとスレを繋いだ画像や
黒いのはスレタイの文字が重なりまくって読めない
NIKUは除去済み
一応gmlとdotに変換はしたんやが重いからおすすめしないわ
https://anonfiles.com/Z093c7iezf/_G_zip
csvからやったほうがええかな
データが一部やしなんとも言えんが立ったばっかりのアフィスレは他と繋がり少なそうなイメージやわ
次数解析とかはしてないからデータクリーニングして真ん中部分だけやりたいところやな
>>141
配置はforce-directed placement(spring layout)で日本語やとバネ配置とか力指向配置とか言われるやつや
dotからsvgに変換しようとしてるけど3時間くらい回しても画像一向に完成さなくて草
Google colabとか使ったほうが良かったかも知れん
普通に他のCPU空いてるから他のことは出来るけど
さんGのログ今すぐ取れる?
あと2時間で取れるだけ取ってほしい
>>144
ログなら簡単やけど過去ログは無理やで
もう無くなったのは取れない
>>145
十分や
今取れるぶんだけでええ
>>146
魚拓を取るのかログを取るのかがわからん
>>147
すまんワイもよくわかっとらん
とりあえず取れるもんを取ってほしい
>>148
いまスレ一覧にあるのは3分もあれば全部取れるで
ダウンロードだけならや
魚拓もそんなに時間はかからん
ありがとう
今ざっとURL抜き出しといたからニキも魚拓のコード走らせとくんやで
https://pastebin.com/CaEFnbju
スクレイピングの本体はざっくり書いたんやけどDB入れるのがよくわからんから困る
ワイは体感的に人口が減ったように感じるわ
統計的には微増なんかな
移住直後は微増で今は減ってそうな体感
>>156
簡潔に言えばこれ
テキストマイニングのええ本知らんか?
ワイ今年統計検定2級勉強するから😡
ちな参考書未購入
>>160
ワイもちょっと考えとる
まず3級からやな、、、
3級とか高校生でもないならいらんで
2級は2011-から2015までの過去問は絶対に回しとくんやぞ
>>162
ちょっと言葉の使い方気をつけた方がええで
>>164
何がどう触れたのかわからんが気分害したならすまんな
統計検定の公式サイトの説明にもあるように「高等学校の必修科目である数学Iの「データ分析」相当の統計内容の知識と実際にそれらを身近な問題解決に活かすことが出来る統計的問題解決力を~~~」とあるように内容は高校相当なんや
なんでやっても意味が薄いというか足らないからよほど数学等が苦手でないなら2級スタートをおすすめするわ
英検4級みたいな感覚
>>165
ええんやで
ワイ頭悪いし、趣味やから家の近くで初歩から受けたいんや🤗
>>166
2級のCBT近くでやってないんか
それはどんまいやわ
とりあえず3級だろうと統計web完璧にしとけばオーバーキルできると思うで
あれは2級用やがわかりやすいやつや
>>158
これ統計部のやつだと聞いてやって来た
計算お疲れ様です
>>168
それ貼ったの多分ワイだよ🤗
狂騒も終わったから落ち着いてきたのかな?
統計部いつもようやっとるサンガツ
出来事も載ってて見やすいわね
ここ数日は大きな仕様変更がないのとリアルだと年度の切り替えとプロ野球の開幕から少し経って落ち着いたのもあるのかな
>>172
こちらこそサンガツ
精度が怪しいから少しずつ改修していくよ🙄
時系列分析の本読んだから触りたいけどデータ集めるのめんどくさいのと3ch時代のがないから触れないわ
あ、ごめんよく読んだら不要だった?
>>175
助かる
データクレンジングしてねー
datファイルは脳死でmongodbに突っ込むのが良さそうな感じ
他のことで忙しいからこっちのコード書く時間なかなか取れないけど
>>170
お疲れ様
>>180
ありがとー🤗
>>181
この画像アップも自動化や
体感この1週間で人が減った気する
社畜部、ニーフリ部、ソシャゲ部
この辺とその他で分けるとその他のほうが減ってる気はする
統計の結果って何曜日に出すとか決まってる?
完全に偏見だけど3G初期中期に頑張ってネタ考えてスレ立てたりしてた人はなんPに行った印象
5chの障害がいつ直るかわからないし 当分人口は増えそうね
土曜の朝とは別の障害?
ちゃんとは見てないけどAPI鯖が逝った?っぽい
避難民かなり来てるね、次の統計が気になるわ
>>186
ワイもそう思う
なんPは大出世前のさんGを感じる
統計気になるよね
見当もつかないけどID数は普段の10~30倍とかかな🤔
保守
!tlv5
!mirror★スレをMIRRORモードに設定
防Uのスレ紹介BOT機能mirrorコマンドが実装されたよぉ🥺
!kaijo:mirror★MIRRORモードを解除
次のミラーコマンドが使われると前のミラーコマンド解除されるっぽいな
>>196がコピペされてない
宣伝用じゃないレスまでコピーされちゃうのは恥ずかしいからそれぐらいで良いかも
最近動いてるのか?
わからんね
最近忙しくて・・・
ここはみてるよ
ワイも見てるぞ
たまに覗いてます
もう統計見なくてもわかるけど結果出せないくらい減ってるんだろうなぁ…
ちょっと試しに動かしてみようか
丸二日くらいかかりそうだけど、一応動かした。結果がちゃんと出たらここに貼る
了解 楽しみに待ってます
意外とやはかった
https://i.imgur.com/CMb1lSX.png
安倍ガチャとか、名前欄変更とか、IDなしとかは含まれてないから、本当の数かと言われると疑問が残るけど、条件は同じだから、まあ、参考までに
4/18はなんG落ちてたやつかな?
すごいね。さんGでもここまでいかなかった
野球実況で勢い1万越え達成したのその日だけだし退避民効果だろうね
昨日一昨日のレス数が減ってるのはGWだからかな
はぇ~こんな感じなんか
!mirrorでこの情報周知はしないんけ?
一応統計ニキがスレ建てとる
久々に書き込み数の統計とったから、参考までに
http://sannan.nl/test/read.cgi/livegalileo/1683247839/
GWはやっぱり人が少ないわね
これでええんか?
>>217
できてる
防Gにスレ立てるほどじゃない時とか軽く周知できて便利
統計部の直近の報告です
4月18日は5chAPIサーバー障害により避難民が押し寄せその後微増傾向、GWはみんなお出かけで書き込み数激減
https://i.imgur.com/CMb1lSX.png
久々に書き込み数の統計とったから、参考までに
http://kako.sannan.nl/test/read.cgi/livegalileo/1683247839/
みたいなね
!mirrorされてない😡★スレをMIRRORモードに設定
おつおつ
ミラーのクールタイムとかの仕様がわからないから微妙に使い勝手が悪い時あるね
!kaijo:mirror
いつの間にかクールタイムとかあったんやね。間隔が短すぎたんか★MIRRORモードを解除
クールタイムの仕様は今のところどこにも記載なさそうなんよな
217が反映されてて219は反映されてないから1時間は確定っぽいけど
防弾嫌儲の方はどうなってるやろ
良ければ調べてもらえますか
ここら辺でもう一度🤗
統計部の直近の報告です
4月18日は5chAPIサーバー障害により避難民が押し寄せ、その後微増傾向、GW期間はみんなお出かけで書き込み数が激減していました
https://i.imgur.com/CMb1lSX.png
出典
久々に書き込み数の統計とったから、参考までに
http://kako.sannan.nl/test/read.cgi/livegalileo/1683247839/
!mirror
妙だな🤔★スレをMIRRORモードに設定
ダメみたいだねぇ🤥
いや反映されてたわ。チンクルのログ壊れて見えてないだけでした
!kaijo:mirror★MIRRORモードを解除
やっぱりGW期間は皆出かけてたんだな
GW明けの状況も気になるわね
>>225
嫌儲最近やってないねぇ
ぼちぼちやってみるね
ぼんGはそのあとやってみるね
あらミラーつけっぱなしだった。まあいいか
別に日時バッチで処理すればいいんだろうけど、いままとめる気力がないのすまんね🥺
気力ある時に進めてください
無茶はよくない
ありがとね、カクテルあげる🍸
ありがと🤗
[統計部]防Gの過去ログ、スレ数が2万7千を超える
http://kako.sannan.nl/test/read.cgi/livegalileo/1683910514/
https://i.imgur.com/Wf0790r.png
今回はsubject.txtだけで処理してみました
日別スレ数立て数の推移
https://i.imgur.com/6S4SIb0.png
レス数推移の簡易集計
subject.txtより、スレごとのレス数をそのスレの立てられた日にカウントすることにより集計。速報版として使えるかも
https://i.imgur.com/8IfGTDv.png
csvデータ
https://pastebin.pl/view/raw/df0b08a0
スレごとのレス数の統計
中央値8
平均値37.6
IQR 4.0-18.0
最大値9404([梨] 安倍ガチャ雑談)
https://i.imgur.com/zPtbj9v.png
1のみで落ちたスレは1089。2以下で抽出すると3564で全体の約12.9%でした
ようやっとる
管理モメンのレスする時間を集計して活動時間を分析するとかできますかね🙄
全ログ取得済みなら管理モメン☆で集計すれば分かるかな🤔
部長もようやっとるよ本当に
>>240
それは悪用されそうなので(主にFAXが不在時間を狙い撃ちする)やめた方がよろしいかと
やっぱり体感増えたというのは感覚として間違っていなかったか
>>241
管理人も増えてるから平気じゃないかな🤔
まぁやつが死ぬまでは避けたほうがええか
また最近5ch攻撃してそうだし
Pは見てないからどうか分からんけど
起こる時間バラバラだからなぁ
>>243
即レスがすぎる😳
全レス巡回しとるんか😳
管理してて偉い👊😳
管理モメンに比べてだんG民が規則正し過ぎる
時間帯別スレ立て数
https://i.imgur.com/t2qcefO.png
subject.txtによる時間帯別レス数推計
https://i.imgur.com/bWE3DOa.png
20時20分にスレが立つウォッチパ部のピークが見える
現在の防弾なんGの過去ログは、27700スレに対して224MBのようでした
うーんこの昼休み
平日の深夜と正午以外の昼間に勢いがない掲示板があるらしい
社畜の動きが見えますね…
通勤昼休み退勤時間
ウォッチパとか毎日固定でレス増えるからピークが見えるんやなぁ
0時から急激にスレ立てもレス数も落ちる
面白いねこれ😆
とても規則正しい生活だなぁ
>>245
昼休みの∧草
規則正しいの分かってたけどデータでも綺麗に出るんやね
統計部いつもサンガツ😘
!send:3:ID:jPUXqFt/0主★ID:jPUXqFt/0に3🌷を送りました。
サンガツやで
【統計部】だんG民に規則正しい生活をしている社畜が多いことが統計から明らかに
http://sannan.nl/test/read.cgi/livegalileo/1683985173/
http://kako.sannan.nl/test/read.cgi/livegalileo/1683985173/
時間帯別のスレッド数
https://i.imgur.com/tgWX8iC.png
時間帯別のレス数 ※簡易集計
https://i.imgur.com/2QVU3Vb.png
5/3~5/7のGW期間中のみ
https://i.imgur.com/lD0jwhm.png
https://i.imgur.com/d86TNVU.png
影響してそうな個別スレの抽出
11-14時
https://i.imgur.com/nCUKFYj.png
19-21時
https://i.imgur.com/0g5hSTZ.png
これよく見たらレス数もスレッド数に間違っとるやん
防Gスヤスヤで草
>>251
https://i.imgur.com/DghBFTA.png
https://i.imgur.com/VJ2GcbV.png
レス数のグラフはy軸の説明が間違ってたので修正版や
ちな解析と図作るのにワイもR使いまくっとるで!
部長はpythonとDBでやってるのかな?
さすがRはグラフが綺麗な気がするね
ワイちゃんはpythonとDBだよ
なんか他の人からも違う角度で統計が出てくると部活動っぽくていいね😎
嫌儲より先になっちゃったけど、だんGのグラフだよ。本日分は無視してね。
https://i.imgur.com/rZspZFh.png
防弾なんG 書き込み数(〜5/13)
https://i.imgur.com/rZspZFh.png
こうか
人数的には安定期に入ったのかな
>>257
やっぱりGW最後は盛り上がってたんだねえ
土曜日比較だとGW明けて人減ってるのか
■防儲 書き込み統計
月別書き込み数とID
https://i.imgur.com/nHa2n8X.png
週別書き込み数
https://i.imgur.com/zdkpw1d.png
曜日別書き込み数平均
https://i.imgur.com/Fb6WUtr.png
時間別書き込み数平均
https://i.imgur.com/riRNgbm.png
※過去ログから集計しているため、現行の書き込みは反映されてません
※一部の特殊機能をつかった書き込みは集計対象外です
防弾嫌儲は微減位なのかな🤔
乙
防儲もうちょっと増えてるのかと思ったけどそうでもないんやね
よく考えたらワイもちょっとスレ立てたくらいやった
さんG民の流入は、長期的には板の盛り上がりにはにつながってないみたいだねー
5chおったときはかけ持っちゃんやったけどさんGの煽りのない世界になれてからはさんG系譜の板以外に行く気にならんのよな
おんも怖い🥺
移動平均を追加してみた
https://i.imgur.com/KR4K7MF.png
副権限とれてるね
まあいいけど
やっぱり避難騒動からの増加分含めて安定してるな
あんまり意味ないから出してないけど、
実は週の集計もあって、先週は多かった
https://i.imgur.com/7Vsc6sl.png
>>269
あ、ごめんこれおかしい
やっぱなしで
!subID:VZVvRQ+U0
あんまり参考にならないからID出してなかったんだけど、chid有料化以降もスパイクがあるから、これは外部要因なのでは?と思ってきた
直近で何度か小さな避難騒動はあったけどそこの寄与は弱そうだな
ZAQ騒動以外になにか起こってたっけ?
あれ
!sub:ID:Ph/KlTU60★ID:Ph/KlTU60を副主に追加
ID数の振れ幅デカくて草
意外と人増えてないんやな
梨スレが有料化したのがでかいか?
今日?から5G規制された人たちが防弾にやってきた
これ簡易的にならできるなあ
1 撃たれても動く名無し@転載禁止[] 2023/05/23(火) 18:37:44.45 ID:pzvPAqLm0主
・うんちうんこ論争
うんち派97.1%
うんこ派2.8%
その他(糞派、大便派、うんうん派等)0.1%
・防G弾G論争
防G(ぼうG)派72.6%
弾G(だんG)派22.4%
ぼんG派3.5%
その他(男子派、蘭G派等)1.5%
・noabe/yamagami論争
noabe派99.4%
yamagami派0.6%
以上です
参考にしてください
前にアレの簡単な特徴語マップ?作ってたよね
>>280
うん、作ってたよ
潜伏してる時にはあんまり役に立つとは思えないけど・・
>>281
潜伏してても多少臭うには臭うけどアレはそういう小賢しさもあるから厄介なのよな
排水溝から這い上がるウジ虫みたいなしぶとさ
あの特徴語マップで執着を可視化できたのは大きな功績
何の参考にもならんと思うが…
https://i.imgur.com/ybhzXWE.png
https://i.imgur.com/bLxjZfx.png
https://i.imgur.com/Fh2BXH2.png
直近のうんち/うんこスレタイを抽出、うんこ派の陰謀によりうんちが単語としてカウントされていませんが実際の出現数としてはうんち派がダブルスコア以上みたいですね
アナル でる ひり出す やばい
うんちうんこの関連ワードとはいえインパクトが強い
単語のラインナップが臭すぎる😰
>>284
いれるが入ってこなくてよかったな
payはどっから来たんやこれ草
payはたぶんチューリップ送金コマンドや
ちのちゃんが安倍晋三よりもでかいの草
payはたぶん前処理で除去しきれずスレタイに残ってたコマンドみたい
>>283
面白いねwe
ログから出してみると、こうなる
・うんちうんこ論争
うんち:69%
うんこ:31%
・防G弾G論争
防G(ぼうG)派:59.4%
弾G(だんG)派:40.5%
・noabe/yamagami論争
noabe派:78%
yamagami派:22%
略称は案外拮抗してるンダ😳
ワイはぼんG派😡
>>292
0.1%の中にぼんGとか蘭GとかぼだGとか入ってんのか🤔
小数点切り下げ上げの関係だと思う
特定の単語2組抽出の割合だろうしこれ
ちょっと治安について定量分析のアイディアあるので、
なんGでスレを立てたい
もうこの掲示板安定飛行してるんやな🙄
他に仕事やらあるとここだけでやっていける😆
多分仕事してないと日中は暇になるかも分からん
立てたよ
【だんG統計部】治安に関しての定量分析について [独]
現行
https://sannan.nl/test/read.cgi/livegalileo/1685105736/
過去
https://kako.sannan.nl/test/read.cgi/livegalileo/1685105736/
スレ立て数の推移
https://i.imgur.com/jUIqzO8.png
平日との差が出てないから時系列分析っぽくならんのよな今
【だんG統計部】💩に関しての定量分析について [独] [実]
http://sannan.nl/test/read.cgi/livegalileo/1685156435/
http://kako.sannan.nl/test/read.cgi/livegalileo/1685156435/
たてました🙋♂
このくらいなら管理モメンにも怒られなさそうなので、解析に使ったデータとRスクリプトをあげてみた
前Rに興味ありそうな部員がいたので
anonfilesに上げたので広告ブロック推奨
下処理済のスレタイ一覧csvファイル
https://anonfiles.com/t7l9J4t5za/unchi_threads_csv
解析用Rファイル
https://anonfiles.com/Tdh5K3t1za/boudan2_R
csvの説明
"dat_file"datファイル名、"title"スレタイ、"num_replies"レス数、"date"スレ立て日時 "day" 年月日、"hour"時間、"wday"曜日、"土日"土日が1、他は0、"month"月、"week"第何週かiso week、"呼称"スレタイにうんち/うんこ/うんちANDうんこが含まれているか、"unchi"うんちを含めばTRUE、"unko" うんこを含めばTRUE
グループ別のスレッド数集計済のcsvファイル
https://anonfiles.com/ral7Jft9zb/daily_unchi_csv
https://anonfiles.com/sel1J3taz8/weekly_unchi_csv
Rスクリプトはスレタイ一覧ファイルで処理済の部分はコメントアウトあり
実行するときはカレントディレクトリを揃えるかファイル名のパス指定を変更で
R studioでブロックごとに逐次実行すればグラフと集計済のcsvファイルが作れるはず
tian = ["ちくちく", "治安", "荒れ", "自治"]
tikutiku = ["くっさ","ガイジ","ハッタショ","発達","発達障害","対立","対立煽り","FAX","通報","安倍晋三になれ","過疎","キッモ","キショ","キモ","つまらん","死ね","氏ね","しね","あっそ","だから","きもちわり","逃亡","帰れ","かえれ","つまんね","つまんない"]
・副部長の提案はうまくいかなかった。提案どおりにすると、書き込み数と完璧に同じ傾向になる
・ワードリスト少し更新した
・全期間出してみた
・いくつかの指標と連動してるか確認したが、そうでもなさそうだった
以上から
・治安は拮抗状態の上に成り立っており、きっかけがあると急に悪化するのか?(ボラティリティが高そう)下げ圧力を測る必要がある?
・拮抗状態だと仮定すると、ちくちく対ふわふわで指標とするべきか?
・全体的にこの試みはうまくいってなさそう。ワードリストに問題がありそう
市場の恐怖指数が参考になるかも?
・自然言語解析で感情分析やるのが1番簡単そう
・板を感情市場だと捉えるのは興味深いが、結局車輪の再発明になりそうで、労多く益が少なそうに感じる
乙
ボラリティ、変動の大きさが体感に影響してそうなのはあり得そう
思いつきなんだけどワードとしてあぼ~ん、あぼーん?は例のあれや通報が通ったレスとしてシグナルにならないかな
手元にdatファイルは溜まったけどプログラミングがクソ雑魚なのでChatGPT君にパースしてくれるようお願いしてる🥺
社畜スレvsニーフリみたいな感じで常駐スレの相関と得意性みたいなのは見れたりするん?
とあるチクチクしたなあと感じたスレ2つからのテキストマイニング
あんまり広めるのもあれだからここに画像まとめといた
https://imgur.com/a/636TwFR
個別性の高そうなワードはマスキング済
ワードクラウドは出現頻度順
“自治”は6回使われていたので自治スレ寄りかも
荒らす、煽る、荒れる、叩くなどの動詞に加えて言う、言われる、言いたい、思うといった心情の表明する言葉が多く使われている傾向
「おる、おった」は治安への言及として使われやすいワード
「立つ、立てる、立ってる」は「スレ」と組み合わせて使われ、同様に治安への言及や評価や議論が多かった
管理モメン、安倍晋三あたりは規制系への言及。通報、規制も同様
シンプルに「悪い、悪く」のような表現もポジ/ネガに関わらず使われていた
センチメント分析としては
[ポジティブ3.2%、ネガティブ43.6%、中立53.2%]
[怒り83.6%、悲しみ62.5%]と概ね主観的な印象通り
画像はURLからブラウザで開いてね
そろそろローカルでテキストマイニング環境整えたい🥺
ゆめちゃん🤥vs社畜vsニーフリスレの投稿数推移の比較だよぉ🥺
https://i.imgur.com/tssIlRN.png
時間帯別分析
https://i.imgur.com/mpi7Qbd.png
スレタイに社畜ANDニートを含むスレを除外して、
”ゆめちゃん”、”社畜”、”フリーター”の順に抽出&グループ分けしたよぉ🥺
>>313
ありがとなンダ
これをワードリストに入れたら、前よりよくなったンダ
tian = ["通報", "規制", "言う", "思う", "自治"]
tikutiku = ["荒らす", "煽る", "叩く"]
https://i.imgur.com/RYXRXHN.png
なんとなく体感的なものに近くなったような気がするンダ
単独IDと相関係数 0.02817664
体感治安とちくちく言葉相関係数 0.999665082
ID数と治安係数相関 -0.43741459
書き込み数30日移動平均と治安係数移動平均相関 -0.657622345
ID=ユーザが多くなると体感の治安が悪くなるのは体感として間違ってはいないのか
おぉありがとう土日に落ちるあたり社畜の健全性わかって草
追加で悪いんだけどその3つでテキストマイニングも頼んでいい?
社畜スレに自由業民も入ってて社畜ってなんやろってのがよく分からんくなったんよ
ニーフリとの違いが解ったら言語化出来るかなって
>>318
相関係数とかはちゃんと信頼区間かp値出さないとあかん気がしなくもない
自動で出るはずや
>>322
そろそろRでやらんとね・・
>>324
pwrとか普通にpythonでもできるはずやで
完全な自動ではないけど
治安とは逆向きに、ポジティブな感情を測るために草を指数にしてみたんだけど、
>>317と同じような傾向なンダ
単発ID率と負の相関がありそうで、色々考えられて面白いンダ
>>325
あれこれ試行錯誤してるから、収集だけPythonで、集計はEXCELでやってるンダ
statsmodelsでp値出せるで
>>327
エクセルでもできなくはないやろうけどだるいやろな
普段どのスレも見ないから分からないけどニーフリ梨スレが消えて以降いくらかゆめちゃん🤥に吸収されてる?
>>320
多分量多く読み込まなないといけなくて外部サービスに頼るのは難しいからテキストマイニングは少し待ってねえ
>>316
はえー両パラメータで散布図にしてほしい
統計部のスレ面白いわ
お気に入り登録させてもらうやで
>>303の画像だけここにも貼っておくンダ
スレタイにおけるうんちうんこ論争
https://i.imgur.com/av0NWVa.png
💩関連スレッド数の推移
https://i.imgur.com/u88ETqh.png
週ごとに集計
https://i.imgur.com/msXeQgV.png
スレタイサンプル
管理モメン
https://i.imgur.com/CCcm5zg.png
派閥抗争
https://i.imgur.com/oXp5jyD.png
安倍晋三
https://i.imgur.com/2kf5STi.png
>>317
単純に一致したワードで検索かけるなら動詞や形容詞は活用形も入れた方がいいかも
形態素解析で出てきた上位の単語はいろんな活用形のがひとまとめにされてるから
とりあえずほーい
https://i.imgur.com/4OsWejj.png
草率で草
単発ID率との関係も興味深い
そういえば↓のスレに無断転載されてる
お前らが防弾なんGに来ない理由、ガチで謎wlwlwllwlwlwl
https://nova.5ch.net/test/read.cgi/livegalileo/1685570695/
86 それでも動く名無し 2023/06/01(木) 07:36:38.76 ID:qYT2dW2Ka
でも治安は下がってるらしいで
317 !mirror 2023/05/29(月) 10:46:01.00 ID:8ZsizGPV0副
tian = ["通報", "規制", "言う", "思う", "自治"]
tikutiku = ["荒らす", "煽る", "叩く"]
https://i.imgur.com/RYXRXHN.png
なんとなく体感的なものに近くなったような気がするンダ
こういうのって統計部としてどう対応する
末尾同じだけど誓って転載はしていません
画像ごと転載されてるなら著作権者名乗れるから通報しやすいと思うよ
とりあえずなんかウォーターマーク的なの入れとくか
>>337
あーそれオラも見た。
やめてほしいンダ
ウォーターマーク入れるのは簡単だけど、
見づらくなるンダ
ggplot2でのメモ
labs(caption="ここに入れる")か
annotate(geom="text", label=“ここに入れる”, でいろいろ調整
前者くらいでも十分かな
>>341
こういうことやられると今後無断転載禁止等ウォーターマーク入れるしかないのかもしれない
視認性低下は避けられないのだけど…
今のところ唯一と言っていい具体的なデータだから悪意なくとも引用されてしまうだろうね
無断転載禁止だけじゃなくてなんGに転載禁止って具体的に併記しても良いんじゃない?
>>322
出してみた
data: kusa and tandoku_id
t = -4.5715, df = 65, p-value = 2.226e-05
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
-0.6557619 -0.2870519
sample estimates:
cor
-0.4932498
ID数と治安
data: ids and tian
t = 6.6207, df = 65, p-value = 8.074e-09
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
0.4653638 0.7591167
sample estimates:
cor
0.6346306 https://i.imgur.com/z0avkwo.jpg
やっぱり散布図はええなあ
単位と意味を添えてくれると絶頂しそう
ID数とちくちく言葉
data: ids and tikutiku
t = 6.6587, df = 65, p-value = 6.924e-09
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
0.4682121 0.7606556
sample estimates:
cor
0.6368006
https://i.imgur.com/vAeKr8e.jpg
>>352
これ√xみたいな感じのほぼ収束する関数取っとるように見えるわ
言ってる意味がよくわからないけど、ちくちく言葉は書き込み数で割って1書き込み数あたりにしてるのが何か問題かな
書き込み数:ID数:書き込み数/ちくちく言葉
こういう関係にはなっている
数学的になんていうかわからないけど、自己言及的でトートロジーに陥ってるから、何も説明してない、みたいな感じ?
それは実はずっと感じてる
だからたぶんこのあたりは無視して
>>347だけが意味ありそう
なんとなく最近、統計学という分野の魅力がわかってきた。手法そのものというよりは、結果に解釈が必要な部分ではあるけど
英語翻訳みたいに文脈と行間を読むところに感性が必要なのがいい
この調子でがんばってください
!pay:30:ID:Q/AFZUuV0副★ID:Q/AFZUuV0に30🌷を送りました。
>>359
いっぱいくれた。
ありがと🤗
>>354
あるところまではID数が増加するとちくちく言葉率?も増加するけど、ID数が一定の数以上の場合、ちくちく率は特定の範囲内に収束しそうということじゃなかろうか
>>361
解説サンガツ
数字と、体感的を総合すると
・人は増えてるが、そこまで増えてない
・体感的にちくちく言葉が増えているように感じる
・やっぱりちくちく言葉の増加率が体感と関係あるのか
はえ~学生意外と多いんや
だんGアンケート部 (随時更新受付中)
http://sannan.nl/test/read.cgi/livegalileo/1686228790/
http://kako.sannan.nl/test/read.cgi/livegalileo/1686228790/
防人の年齢層調査結果
http://kako.sannan.nl/test/read.cgi/livegalileo/1685641490/
学生確かにちょくちょく見かけると思ったけどかなりいるもんだな
治安と通報の件数ってグラフにしたら相関出るのかな?
>>366
なるほど。そういう答え合わせができるね
とりあえず通報をパースできるようになった。https://i.imgur.com/x5NYJWC.png
忍法帖IDがも取得してるので、ランキングも出せる
■通報回数ランキング
Rank 1: Count=22
Rank 2: Count=16
Rank 3: Count=16
Rank 4: Count=15
Rank 5: Count=12
Rank 6: Count=10
Rank 7: Count=9
Rank 8: Count=9
Rank 9: Count=7
Rank 10: Count=7
ちなみに1位は4日間で22回通報してる
内容は殆どがFAX関連
>>368
おお
通報ユーザ数は466(ユーザフォームのみ)
Min. 1st Qu. Median Mean 3rd Qu. Max.
1.000 1.000 1.000 2.036 2.000 22.000
一応ヒストグラム
https://i.imgur.com/VKOBPiw.jpg
はえー
住民数と比例しとるんやろか
してなければどこかのタイミングで急に荒れて通報増えてきたとか
https://i.imgur.com/8UbQjIu.jpg
ちょっとだけみやすくした
まあ見るまでもないけど
>>374
そのあたりの相関とかはあとで出すね
Rが上手く使えない
やっぱりここのところ通報異様に多かったよね
>>377
6/2から急に増えた感じあるね
3/18〜今日までで通報フォームから通報されたのは1207件。うちだんGが949件
単純に考えると三男の管理労力の78%はだんG関連というわけか
先週から急に通報増えたのは、LRの追加のせいもありそうだなあ
2日ってなんかあったっけ?
【統計部】通報スレの通報理由ランキングトップ10 [独]
https://kako.sannan.nl/test/read.cgi/livegalileo/1686480784/
ID数が減って若干書き込みが増えつつある?
誤差の範囲だろうか
ここしばらく部スレが毎日のように立ってたからそれが影響してるのかな?
アモアス、フォールガイズとか数百レス行くのを一週間に数回あると2万のうち占める割合は結構でかい
単に安定しつつあるのだろうと思う
賛否のあるテーマのスレで、賛成と反対を可視化するには自然言語処理するしかないのかなあ
おつ
レス数の微増に対して通報数の急増が気になるわね
日によって跳ねてるから荒れやすい話題がポツポツ増えてきたのかな
https://i.imgur.com/AaE3WWG.jpg
data: tikutiku and report_count
t = 4.2642, df = 64, p-value = 6.74e-05
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
0.2576769 0.6395920
sample estimates:
cor
0.4703742
↑通報数とちくちく言葉
書き込み数と通報件数
https://i.imgur.com/viwVhZq.jpg
Pearson's product-moment correlation
data: kakikomi and report_count
t = 4.2644, df = 64, p-value = 6.735e-05
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
0.2576998 0.6396065
sample estimates:
cor
0.4703933
使用したデータはこちら
4/18は外れ値として外してある
https://i.imgur.com/sI7bRwt.png
通報件数みやすくしてある
通報スレは、フォームから通報機能のおかげでほぼ完全にパースできるし、忍法帖必須だから分析のやり甲斐があるね
水曜日を起点にして、直近一週間の多重通報ユーザ率とか出しても面白いかもね
>>395
対数グラフでプロットしてそれで相関係数取ってみ
通報スレの通算の期間からは、特にユーザ別書き込み分布と大差ないように思える
つまり、通報するユーザはごく一部で、その分布は書き込みのヘビーユーザーと同じで、同じ層が通報してると考えると自然
結論としては、いわゆる通報厨=ヘビーユーザーの関係が推定できる
>>400
難しいこと言うなあ
>>402
単純
y=a+b log x
でやるだけや
とりあえずx軸logった状態でプロットしてみ
そこそこ面白いもん出てくるかも知れんで
Pearson's product-moment correlation
data: log_kakikomi and report_count
t = 3.3123, df = 64, p-value = 0.001525
alternative hypothesis: true correlation is not equal to 0
95 percent confidence interval:
0.1548489 0.5716492
sample estimates:
cor
0.3825444
もう寝るよ😡
寝ないけど
>>391
ありがとう
なんだか最近限界が見えてきて、勝手に部長の自然言語処理のローカル環境に期待を寄せているよ🤗
あと70万のPC買った人の参加も期待してるよ🤗
>>405
あってるけどだめか
最初のプロットをなんとか斜めの直線状にしたかったんや
そうすることでその式が適切ならば予想がつくからや
https://i.imgur.com/f9nz3b1.png
とか社畜スレとかを時系列分析するのは多分楽しいと思うけど自力でスクレイピングするのがだるくてやれてないわ
>>410
なるほどね、書き込み数は安定してるからねー4/18を確認したけど、追加したとしてもあんまり影響なさそう
因果推論の本ちゃんと読みたいけどまっっっったく読む時間なくて辛い
そこにより詳しくいい感じのことが書いてあると思うわ
ベイズでランダムウォーク入れてstanでほわーーーって予測させて書いてもええんやけど面白みないしこっちのやりたかできれいに行ったら気持ちいいからそれが出来たらなぁ
社畜スレは同じ形式でスレが続いてるから、やりやすいかな。書き込み内容は無視して、メタ分析のみに絞ればそんな難しくはないかな
>>408
いつの間にか部長に昇格されてて草
ワードクラウド作るところまでやって止まってた🥺
頑張れば機械学習で判別とかできそうなんやけど
あとdatの処理であぼーんとかイレギュラーなレスがうまくパース出来てなかったり
時間あればRの統計処理とggplot講座のスレでもやりたいなあ
自分でやればいいのか!
オラも自分で環境作る、そのうち
対数でもなけりゃ二次関数とかどうやろか
./dat/以下のdatファイルを逐一読み込んで、ファイル名、スレタイ、レスの番号、名前、時刻、本文もろもろを1レス1行のCSVにまとめるような感じにしてるんやけど
たぶんイレギュラーなレスがレス番ごとすっ飛ばされちゃってる
テキスト抽出くらいなら無視しても大丈夫かなとは思うんだけど
書き込み数少ない時のデータが不十分か
ちなみに6月2日はFAXのマルチポストによる通報が多かった
うんさくにも多数あぼーんの痕跡が
3枚目のグラフ、一度極大迎えるのも興味深いわね
>>426は、複数回通報している忍法帖IDの割合
通報って癖になるんかな
今のGは重大な変革期(というか侵攻)なのかもしらんね
これまで使えてた治安係数も使えなくなるかもしれない。(治安が悪くなったとかは聞かなくなるだろうけど悪化はするだろう)
【だんG統計部】防弾なんG板のID数の推移を調べました
http://sannan.nl/test/read.cgi/livegalileo/1686841188/
🙋♂️
複数回線のIDを統合した防弾なんGのID数推移
じわじわ増えてる
独/梨スレあり
https://i.imgur.com/z5Qp6Yx.png
独スレあり、梨スレなし
https://i.imgur.com/WnnMUCa.png
IDに含まれる主、副を削除→回線を示す末尾を削除→集計
2023年6月14日までのデータ
参考までに末尾未処理の梨スレ無しで集計した結果
https://i.imgur.com/YsgY8g7.png
本屋でブルーバックスのRの入門本見つけたわ
最近出たやつやし良さそうやった
IDがみんな変わって今の時間帯は末尾無効っぽい
【イベント】
と思ったら一瞬で直った
スレ立て数推移
https://i.imgur.com/7Tyr7d0.png
ユニークID数推移
https://i.imgur.com/SbFhXgR.png
新規さんをカウントする試み
https://i.imgur.com/WP2cD02.png
>>433
GUIフロントエンドのRコマンダー使ってるらしい
GUIだとEZR、jamovi(独自色が強い)なんかも統計処理のメニュー画面が分かりやすくて良いよ
細かいことやりたくなったらR studio入れるのがおすすめ
>>436
これID追跡まですればL6まで追えそうだな
>>436
グラフきれい
書き込み数は出した?
ワイのより正確なの出そう
Rも実はvscodeのJupiterで動く
やっぱりじわりじわりと人の数増えてるんね
あとみんな馴れてきたのかスレ立ても徐々に活発かして
>>440
エッッッ
>>439
パースにちょっと自信ないから家帰ったら集計したデータ上げてみる
Rは一応Android上でも4.3とか動かす方法あるんやけどクソほど時間かかるからおすすめせん
あとGUI周りに問題あるのかちまちま
configureのログ見ながらビルドしないとあかんからかなり面倒くさい
ネットにはそんなに方法載ってないわ
>>437
あ、ワイはR使いや
初心者にオススメしたくて書いた😎👍
>>445
ナイス👍
tidyverse系の処理と可視化、統計手法まとまってるのあると嬉しいんやけど、これ!って本がなかなか無くておすすめ難しい
>>439
https://anonfiles.com/Pdlcmex2zf/count_replies_csv
だんGの書き込み数のデータです
n_datがdatファイルから集計したやつで(あぼーん等の抜けあり)
n_subjecttxtが過去ログのsubject.txtからレス数の数字をスレ立て日ごとに足して推計したやつ
ワイのほうはなんか仕様変更に対応できない感じがする
まあでもトレンドには対応してるから、ええか
思ったより差が出てる😳
なんだろう仕様変更スレ見るとrandmojiあたりの仕様変更?
そのあたりは、全部例外でカウントしてないからねえ
3/20からの通報スレの対応数
https://i.imgur.com/6ggAN2o.png
ころころ★結構上位で対応してるのに…
>>454
F関連は痕跡ごと消してるっぽいから見つからんで
だんU盛り上がってきたな
>>447
datファイルからとスレタイ一覧からの書き込み数比較
https://i.imgur.com/UCOcbSt.jpg
やっぱ少しづつやが着実に人口増えてるんやな
Uの大型移住はいいね👍
謎のunchi_listが失われてる🥺
https://i.imgur.com/FyVHlNx.png
防弾なんGのレス数推移
https://i.imgur.com/3Gy8loV.png
>>460
はぇ~漸増してる
20000も書き込み数あるんか
すごE
>>460
マジで綺麗に増加してるな
人数の予測できそう
荒れてた月曜がどうなってたか気になる
防弾なんGの時間帯別の1日のスレ立て数
https://i.imgur.com/GqA2Ant.png
21時頃に凹みがあるの面白いな
みんな風呂入ってるかな
ウォッチパとか色んなスレが盛り上がってて新しくスレを立てないだけかも🤔
これどういう集計なんや🙄
6/1から1時間ごとにスレ立て時刻をもとにスレ数を集計したものを、時間帯別に箱ひげ図(IQRの1.5倍超えてるのは外れ値)にしたんや
防弾なんGレス数推移
https://i.imgur.com/4E5UziZ.png
ID数推移
https://i.imgur.com/8BvCxEJ.png
ユニークID数推移
https://i.imgur.com/fMaClTE.png
新規ID数推移(安倍晋三を除くL1~L5のID)
https://i.imgur.com/3BXtLbi.png
少し落ち着いた?
書き込み数は右肩上がり
IDは微増
新規は6月から増えたって感じ?
スクリプト爆撃食らい続けてるからねあっち
なんかまた人増えているような気がする
スクリプトの影響って結構あんのかな
忍法帖のLv分布棒グラフって作れるのかな
人口増加と相関が見えるか?
あるやろなあ
Lv分布の棒グラフってこんな感じ?
https://i.imgur.com/i33iiAC.png
何と何の相関になるんや
レベルごとにIDの数をカウント
group_by(level) %>% summarise(user_id = n_distinct(id))
x軸に日付、y軸に総書き込み数、z軸にlvで新規と総書き込み数の変化とか?
レベルの割合によって新規さん書き込み率がわかるかも?
常連はレベル高そうだし
防弾なんGの時間帯別スレ立て数推移(6時始まり)
https://i.imgur.com/Rs3EcSp.png
最近スレが落ちやすくなったなあと思って出してみた
スレを立てたID数の統計ってとれますか?
>>478
規則正しいわね土日でも真夜中~早朝のスレ立て数が少ない
>>478
全時間帯のスレ立て数が増加してるってことは
やっぱ全体としてスレ立て数は増加傾向か
土曜日の22時の6月~7月の特異なピークはなんだろう?
>>481
帰宅後に飯や風呂を終えて一息ついた社畜がスレ建てしとるんやろ🙄
>>482
うーん
土曜日やからなぁ…
あと明らかに特異的なピークとしてでとるから
違う気がする
特定一人しかおらんわね
なんか管理モメンがマークしてる人
そういえばここ最近の治安指数ってどうなってますか?
結構移住民が増えて雰囲気も変わりつつあるように感じます
治安悪化を示すワードの選び方も難しいよなあ
前のはあからさまに荒れたスレをデータに使ったんだったけど色々人増えと細かい差も変わってそうなんだよね
勉強が進むないから形態素解析最小限のでやれるのあるかなー
明日は久しぶりにスレでも立ててみようかな
【だんG統計部】最近の書き込み数やスレ立て数の動向 [独]
http://sannan.nl/test/read.cgi/livegalileo/1688388911/
http://kako.sannan.nl/test/read.cgi/livegalileo/1688388911/
色々まとめた
ありがたい
仕事が早いね
安倍晋三スレがどれくらい立てられてるか気になるな
今日一日がどれくらい跳ね上がるか見えたら面白そう
今日は5g落ちもあったしちょっとグラフに変化出るのかな
5chでjaneがapi切ったとかで急速に避難民が移動してるから統計的にはすごいことになりそう
急激に人口と書き込み数増えるはずだな
今日は何者かの攻撃が5chにも三男にもあって、JaneStyleやTwinkleがtalkに移行で他の専ブラがAPI鯖から締め出されたり忙しい日やね
【告知】何者かによるread.cgiへの大量アクセスがあったので一時的にwebブラウザでスレは開けません [管理モメン★]
http://sannan.nl/test/read.cgi/livegalileo/1688970176/
http://kako.sannan.nl/test/read.cgi/livegalileo/1688970176/
【MACKEREL HAS BEEN DOWN】サーバダウン情報 03
https://agree.5ch.net/test/read.cgi/operate/1664418619/
647 Ace ★[] 2023/07/10(月) 13:11:51.07 ID:CAP_USER
ただいま全鯖へアタックがあるようで、鋭意対応中とのことです。
mateとtwinkle民が移住してきたから凄いことになってそう
今回の騒動で最終的に人は増えたのだろうか減ったのだろうか
ワクワクするけど時間掛かりそうだし途中落ちたから今回は難しそう
今クローラー切ってるし🇸🇪は過去ログも無いからからなかなか厳しい🥺
そもそもまだ騒動が終わってなくてキレそう
過去ログのsubject.txtからの簡易集計で、7月11日までのデータ
レス数推移
https://i.imgur.com/Gm9X9Xb.png
スレ立て数推移
https://i.imgur.com/Me4rAFi.png
datからとsubject.txtからの書き込み数比較は>>457に
やっぱ急激に増えたか
てかこの時間にしては書き込み多い気がする
今後の平均移動線の動向に注目だな
>>504
いや違うか
まだ反映されてないか
基本1日分は切ってます。メンテで落ちるらしい
❗【告知】4時30分からメンテするので、開けない場合はスウェーデン鯖に避難してください [管理モメン★]
http://sannan.nl/test/read.cgi/livegalileo/1689187451/
これきっと非連続見たな感じで増えてるよな
まだわからないけど
次から7日間の指数平滑移動平均EMAも追加してみるンダ
これまではggplotのgeom_smooth()でLOESS(Locally Weighted Scatterplot Smoother)かGAM(一般化加法モデル)で青い線描いてたンダけど
クローラー停止中のためsubject.txtによる簡易集計です
~7月12日まで
レス数推移
https://i.imgur.com/YAOVsFr.png
スレ立て数推移
https://i.imgur.com/tOJREu4.png
変化を捉えやすいよう7日間の指数平滑移動平均EMAを点線で追加。(従来の青い線はLOESS (locally estimated scatterplot smoothing)による平滑化
昨日の7月12日は、攻撃や🇸🇪に避難を繰り返したこともあり6月21日以来、2万2500レスを割っていたようです
0レススレを回収してもらうチャンスかも😎
https://i.imgur.com/Oo7ngD4.png
https://i.imgur.com/HWAURxt.png
攻撃されまくってるけど思ったより減ってないね
知名度は上がっただろうしまた増えていくのかな
なんGよりも他の板が今回は変化激しいやろな
そもそも0やったんやもん
どうなるのか気になる傾向ね
3chanの件でメールくれた部員さんへ
メール見てるので明日やりますね
今はもう飲んでるので
サンガツ
3chanドメイン落札ニキにサブドメインを申請してみたので統計部のサーバーができます
部長はSimpleXやSession使ってる?
すごい
今人口どれくらいなんや
>>514
設定しときました
>>517
ありがとうございます
調べたらCloudflareフリープランだとサブドメインの権限委任とかはできないんやね…
あともう一つだけ、出来たらDNSの設定でproxyをオンに(Cloudflareを経由するように)してもらえないでしょうか🙇♂️
https://i.imgur.com/AAOtlrP.jpg
とうとうホームページが
>>518
フリープランだと出来ないみたいですね
ワイも調べてた
プロキシオンにしときました
助かる
サーバーサイドで完結させたい思ったけど、よく考えたらそのままだとメモリドカ食い気絶部だからダメじゃん😱
512MBでもpythonならいけるんかな
おまけにRのパッケージ入れようとしたら依存関係でコケまくる🥺
もしかしてdebianはaptで入れた方が良いの🥺
まだデータ更新してないけどええか
統計部のサイトが出来ました
https://stat.3chan.jp/
https://stat.3chan.jp/gallery.html
もう少しであぼーん含むレスも削除日時込みで処理出来そう
ようやっとる
そういえば諸データの更新やアーカイブって検討してる?
ドメイン所有者しかCloudflareの設定を変えられないのと、SSL証明書更新の際にlets encryptedでhttp通さないといけないらしくてhttpからhttpsにリダイレクトしてません
なんかいい解決法あったら教えて🥺
統計部の鯖は一応防弾のVPSにあります
>>526
今後集計済みのcsvなんかは置きたい
あとさんGのアーカイブデータも手元にある
安価ずれた。>>525
>>526
了解 いいね
統計データの更新毎に以前の統計データを保存する場所あればいいなと思ったけどこれまでのデータは蓄積されるし半期で区切って新たに表を作るとかでもないならまだ重要性は低いか
宣伝スレ建ってたから気になって
だんG統計部公式サイトが爆誕!
http://sannan.nl/test/read.cgi/livegalileo/1690183762/
でもパースの方法変わったり、部長と副部長ワイでも差があったりするからスナップショット的なのがあってもいいかも
ドメイン落札ニキに度々申し訳ないんですが、CloudflareのSSLの設定を変えてもらう必要がありそう
SSLの設定がフル以上でないとhttpsにリダイレクトさせると無限ループになってしまうらしい
>>528のレスを参考にディレクトリで分けようと思ったけどそれ以前の問題だった
>>530
これわいもなったことあるわ
>>530
さっきメールも見たので後で確認して設定してみますね
Cloudflairは初めて触るんでよくわからんのです
適宜指示していただければ幸いです
>>532
メニューのSSL/TLSを開くと出てくるこれやね!🙏
https://i.imgur.com/1gAKOII.jpg
DanGに統計部が載ってて急いで作った甲斐があったンダ🤗
https://i.imgur.com/2dANo9h.png
だんG民向けライフスタイル誌、月刊『DanG』2023年8月号発売のお知らせ
http://kako.sannan.nl/test/read.cgi/livegalileo/1690282487/
>>533
フルにしときました
>>514
もしかしてSimplexとかSessionってワイに言ってた?
"部長"はここではsubで副の統計ニキ
副部長がスレ主だから多分統計ニキに呼びかけたのかも
もう誰が誰だかわからん
>>536
サンガツ
とりあえずメールもらったらこっちかちゃんと返信できてたらメールで返すようにします
>>535
紛らわしくてすまん
536の通りでサイトもできるし統計ニキにちょっと相談しようとかと思って書いてたんや
リダイレクトの設定も完了しました
連絡先ページも作ってみた
https://stat.3chan.jp/contact.html
>>526
CF単体でHTTPS対応できた希ガス
そうなんやけど細かい設定のとこは分からんし何回も変更必要になったら申し訳ないと思って…
さんGアーカイブのスレタイ一覧を見やすく検索できるサイトが出来ました🥳
https://stat.3chan.jp/sang/
https://i.imgur.com/hy4G91l.png
使用例
https://i.imgur.com/rv65P75.mp4
https://i.imgur.com/X8GQZ3h.jpg
絵文字も🙆♂️
https://i.imgur.com/B16gMnq.png
過去ログも読めるようになってるのか
はえーすっごい
統計部も週末出張進出してこようかしら
7月28日まで
ここ数日はスレタイ一覧のsubject.txtが吹っ飛ぶトラブルの影響でスレ立て数が多い模様
防弾なんGのレス数推移
https://i.imgur.com/EHUxJMO.png
防弾なんGのスレ立て数推移
https://i.imgur.com/Igpo28s.png
ユニークID数推移(ただし独スレを含む)
https://i.imgur.com/GVWtfNo.png
ID数推移
https://i.imgur.com/9PcuBon.png
新規ID数推移
https://i.imgur.com/D7H2Hip.png
だんG統計部の公式サイトが完成 [独]
http://kako.sannan.nl/test/read.cgi/livegalileo/1690644065/
stat鯖結構多角的な運営してるわね
昨日今日で少し大きめの移住が起きたかも
昨日今日の書き込み数すごそう
最近安倍晋三の数が増えてきた印象だし流入はあると思う
昨日馬鹿早かったな
ここで聞くことじゃないかもしれんが
なんで移住騒ぎ起きたんや?
多分スクリプト
一時的な避難所としか見てないはずだから定住はしない…はず
どうせ爆撃喰らうから初めからこっちでやろうって言ってた実況スレもあったし一定数は残るかもね
5Gで聞いた方が詳しそうな気がするけど、スクリプトがgjm複数板に爆撃を始めて板間避難が困難になったのと、鯖にアクセスすら出来なくなったりした時間があったから避難所需要が増えたんだと思うンダ
【3G統計部】レス数とスレ立て数、ID数の動向📊 [独]
http://sannan.nl/test/read.cgi/livegalileo/1691334947/
http://kako.sannan.nl/test/read.cgi/livegalileo/1691334947/
安倍さんのおかげで防弾なんGから3Gに変わったよ
https://i.imgur.com/YetJ9Lk.jpg
防弾3Gになったことで統計的な影響がでるのか楽しみですね
最新版です
レス数推移
https://i.imgur.com/ZBWDzRp.png
スレ立て数推移
https://i.imgur.com/8wHVIMk.png
1時間ごとに集計した時間帯別のレス数
https://i.imgur.com/V429MKb.png
連続版
https://i.imgur.com/vdELkds.png
ユニークID数の推移
https://i.imgur.com/aQ9o8ih.png
ID末尾未処理版
https://i.imgur.com/o39WcWC.png
新規ID数の推移
https://i.imgur.com/OADLNEq.png
実況スレを分離 縦に積み上げ
https://i.imgur.com/ttrJzVJ.png
横に棒グラフを並べる
https://i.imgur.com/5kFKI3f.png
>>558
やっぱり実況の民が大量に流入しとるのな
試してないけど
https://i.imgur.com/cdV9xv7.png
これまでない大規模移住でまた傾向変わりそうね
やっぱ増えとるんやね
昨日今日あたり
猛烈に人口増加した感ある
それに伴う治安指数の変化が気になるね
悲しきかな体感ではちくちく増えてる気がするが…
関連してなんTの統計調査はする?
過去ログ実装されたらしいから恒久的に設置されるだろうし
もう一いっそ全部取るか、
容量やばいを追体験出来そう
これ今までの防弾Gの統計意味なくなりそうだな…
チューリップとGで住人分断されちゃったし
住人の質も違うから単純な比較できなさそう
治安指数も急激に悪化するだろうね
色々起こりすぎてモメン壊れちゃったし…
後々もっとひどいことになりそう
今頃5Gの人等が移住計画とかで舌なめずりしてるだろうし 管理放棄して安倍晋三解き放ったからさてどうなるか
あくまでも数字として見れるか気になるわね
色々意見はあるけど
数字としてどのように現れるか
これが結構興味深い
人口増加に伴って
治安指数が加速度的に悪くなってたら
少しのやばいユーザーが周りに非常に大きい影響を及ぼすって見れるのかな?
まあ元々の移住民の治安がアレやったり
データ取れる日数が少ないから変化としては急激に大きくなるやろし
正確なデータ検証できんけど
これから2週間くらいでデータ徐々に集まっていくかしら
三男掲示板各板書き込み数ランキング作ってみてほしい
5chみたいに
うおお展開が早すぎて付いていけない。現行スレも把握するようにコード書き換えないといけないか
今こそ統計ニキのうんさく分析時系列版を見てみたい
無いとは思うけど言いがかりつけてきた人がいたらと思って確認して言質はいただけました
【告知】GR6で三男掲示板内のスレや板のヲチ(晒し上げ)行為を禁止します [管理モメン★]
55 野に咲く名無し@アフィ転載禁止[] 2023/08/09(水) 13:19:15.49 ID:8CVRRcfP0
これ統計部とか良スレ部はヲチとか晒し上げじゃないしセーフだよね?
57 管理晋三 ★[] 2023/08/09(水) 13:20:09.01 ID:ADMIN
>>55
悪意のある晒し上げ行為を想定しているので
そういうのはセーフ
よかった
末尾が名前欄に移動
これもまた影響のある変更ね
波乱が過ぎて統計大変そう
次からはどこで発表するんやろ🤔
ここが基幹だからここ見てればええんかな🙄
全部でやろう😎
これマルチポストになる?
そっかスレ紹介botも新設の防Tへ行ったか
とりあえずワイはクローラーの他板対応からやね
>>581
ならんと思うけどGはもうやめたほうがええんちゃう?
>>581
今Gに立てても新規の人多すぎて前みたいな反応はもらえないんちゃう?
それはそれでええんちゃうか?
説明丁寧に入れるくらいで
板別に統計部大使館作るくらいのノリでww
github風のサイトにRのコードを置いてみた
https://stat.3chan.jp/git/stat-tools/statsannan/src/branch/main/sannan_subjecttxt.R
実況スレ(実際になんか実況してるスレ)は他のスレに比べて有意に認証してない(Lv4以下)の可能性あるな
より正確に言うとアニメ実況スレ
統計部開くとgstatic.comも使っとるやんけ……
防弾コードホスティングやん
もう3chanのドメインに何があるのか何もわからんわ
とりあえず防弾アップローダーはええとしてこのgitlab的なのは防弾なんやろか?
>>590
トップページにある?フォント関係のなんかやろか
今CDNへのリンク貼ってるのはあるけど、なるべく外部リソースは減らしていきたいので後で見てみる
gitlab的なのはForgejoで今のところワイが気楽にコード上げたいがために使ってる。登録も無効で。鯖の余裕もあんま無いし
<link rel="stylesheet" type="text/css" href="//fonts.googleapis.com/css?family=Lato:300,400,700,400italic%7CJosefin+Sans:400,700,300italic">
>>593
サービスとしては動いとらんのね
さんがつ
原因何なんやろな
こいつのせいでここえの通信止めてると動かないサイトたくさんあるから嫌やわ
>>594-595
サンガツ
やっぱりこの部分やったから消しとく
>>596
さんがつ
Googleとかトラッキング嫌いマンやからすごく嬉しいわ
今どんな具合ですか
TG共に統計データ取る感じ?
言わばまさに。他の板も含めてやりたい
(a)や (M)って何?
>>600
末尾
0は非表示
5chで言うとこの末尾だよ
回線の末尾
仕様変更で固定回線以外は名前欄に(a)とか(M)が付くようになった
>>599
がんばってください💪
>>599
応援してるで
一番大事なデータの部分を抽出してくれる
有能
>>605
(d)ocomoかな
こういうの見るの好きだからいつも楽しみにしてる
ゲーム板も統計しますか?最近人増えてます
書き込みの勢いはゲーム板の方がありそうな気がする
そろそろ見たい
最新版まだかな
統計民いつもご苦労様やで
これって書き込み数やんな?
ROM含めた人口の概数って管理モメンとかに聞かんと分からんのやろうか
ざっとスレリストが更新された時間当たり数と
時間当たりのユニークIDの書き込み数から推定できそうな気がするんやが
まずは係数を決めるベースのデータが必要よな…
ROMは管理モメンに聞いた方が早いかもね
アクセス解析系だとgoaccessが比較的軽くてwebサーバーのアクセスログを良い感じにhtmlに加工してくれて見やすかったから紹介してみるか
ちな7/31のお昼時(12時過ぎくらい~13:20)にstat.3chan.jpへのユニークアクセスが1584だった
>>614
結構多いんやな
>>615
その割にはなんか過疎ってるよな
>>616
すまん、統計部サイトの話やったわ
開発もたもたしてる間にDDoSの余波でクローラーも締め出しくらって草
>>618
モメンに相談しにいかないとね
APIでファイヤーウォールの設定を切り替えられるようだから、スクリプトで攻撃を検知した時に規制を強化するように出来ないか管理モメンに聞いてみる
こういうのってhttpがタイムアウトするかを監視するシェルスクリプト無限ループで良いのかな?
>>618
ほんーま山下遼太殺す
三男サーバー監視所設置予定地です
https://stat.3chan.jp/kanshi/
ここにファイル置いてるんだけどCloudflareにキャッシュされてるせいか更新クッソ遅い。どうしよう
https://stat.3chan.jp/kanshi/health_checker_sannan.csv
なんとか形にはなった
https://i.imgur.com/gJRxtrK.png
csvなんだけど拡張子をhtmlにしてキャッシュ回避するようにした
>>623
視覚的にわかりやすくなったわね
>>624
ようやっとる
三男掲示板サーバー監視所がおかしい
スウェーデン鯖がONLINEなのにONLINEになってない
サイト接続の安全性を確認しています
人間であることを確認します
se.sannan.nl では、続行する前に接続の安全性を確認する必要があります。
stat.3chan.jpに、さんG統計部(ブックマーク)と3G統計部(画像)の2つ名前がある
統一すべき
報告サンキュー
認証ONはそのま403でイエローにした
ロゴだけ意図的に3Gにしてます
stat.3chan.jpの2つの名前の関係は?
同格か違いがあるのか?
嫌儲から来ました。死活ログありがたいです
スクリプトの動作状況など取得できればと考えている統計やさんですが、避難所かdiscordのようなものはありますか?
ここもたびたびDDoSの餌食になってるようで、スレ民の居場所が気になった次第
確か統計部の鯖にぜろちゃんねるプラスなかったっけ?
1スレの避難所というものを見たことがない
https://misskey.kindworld.one/@sannanbot
統計部員さま、こちらで取り組んでいること:
・他避難所およびtalk.jpの死活監視(既に稼働されていたら余計ですけども)
・荒らしスクリプトの動作状況集約(同上)
です。
discord部スレッドから避難所の存在を知り、この手のお話をしたところ
「統計部・wiki編集部」チャンネルに興味ありそうな人が(まだ人数少ないですが)集まっている模様です
もし興味ございましたら覗いてみてください
URLの誘導はこのあたりのスレッドで発行されるようです
https://sannan.nl/test/read.cgi/liveuranus/1687691127/
https://se.sannan.nl/test/read.cgi/lgse/1693393972/
https://i.imgur.com/KsJlhau.png
サーバーのダウンタイムはこんな具合に描くと、日付をまたいだ状況がわかりやすいと思われます
(余計なお世話でしたら蹴り飛ばしておいてください)
そんなところで
じっけんもー@0ch掲示板
https://stat.3chan.jp/exp0/
再開発プロジェクトの動作確認用だけど家着く前に落ちたら困るのでとりあえず取り急ぎ
>>635
ナイス👍
サーバー状況のサイト助かってるわ
サンクス
防U統計部避難所
https://stat.3chan.jp/test/read.cgi/exp0/1693481757/l50
立ててみた。クローラー停滞してたけど死活監視の方で統計部スレに需要があるんやね
>>634
ディスコはやってないけど避難所としてURL貼られてたSimpleXは見てるよー https://33-4.me/M8n06c
避難先にもDDoSが来てるので検討はしてたけど動かしてはないのでありがたい!
なんか良い情報あればここか避難所に貼ってみてね
スレが立ってたのでメモ
三男の文化保存部 [bGxcjo0hM★]
http://sannan.nl/test/read.cgi/livegalileo/1693466221/
三男掲示板サーバー監視所 [KTvN★]
http://sannan.nl/test/read.cgi/news1/1693469189/
今日はなんか攻撃来なかったな
しばらくして一週間ぐらい攻撃され続けるかこのまま一生来ないか
後者であってくれ
なんか監視者最新版csvの切り出し壊れてるかな?
ん、直ったよく分からん
ログ取るようにするか
>>642
名前が2つあるのって初めて見た
興味深い
名前は1つって思うのだが
ここ以外で例があったら知りたい
画像やロゴでは3GだがテキストではさんGというほうがまだ理解できる
ロゴの画像のaltに代替テキストがないがどっちで書く?
鯖の生存確認のために三男鯖に行くユーザーの負荷を避けるのに役立ってる
ここ以外で例があったら知りたい>all
防GとだんGで2つあると思われるかもしれないが管理木綿に聞いたとしても2つあって同格だは言わないだろう(答える名前は1つ)ってことね
DDoS👈🥺ツンツン
同格と言ったけどドメイン落札の流れから今は亡きサイトの名前を冠したネタ要素強めのサイトなので特に深い意味は無いんやで
3ちゃんねるもトップや看板画像で表記色々混在してたし
防儲の嫌儲統計局とかいう謎の有能組織のおかけで三男サーバー監視所で分かりやすい可視化画像が自動更新されるようになったよ
https://stat.3chan.jp/kanshi/
とりあえず
http://stat.3chan.jp/test/read.cgi/exp0/1693481757/5
5 【忍法帖Lv.2】【総カキコ数:3】 (ワッチョイ u9J6-QALp) 2023/09/03(日) 23:53:00.06 ID:GAVhPIgK
Cloudflareを挟んで更新ごとにキャッシュを差し替える形にしてしまったので
監視所さんの転送量がお困りであれば直リンでも大丈夫です
URLは下記のとおりです。IP直打ちはドメイン名にリダイレクトかかるため参照はどちらでも可です
防弾三男(sannan.nl)
https://ch-stat.kenmo-db.net/pub/isalive_sannan.nl.png
各避難所
https://ch-stat.kenmo-db.net/pub/isalive_servers.png
6 【忍法帖Lv.2】【総カキコ数:4】 (ワッチョイ u9J6-QALp) 2023/09/04(月) 00:09:08.13 ID:0/8Uk/s6
追伸。直リンの際はドメイン名にてお願い申し上げます
5分おきに更新されるCSV(をhtmlに変換したもの)にレコード追加するためのリクエスト投げて返答を見るコードってどこかに公開されてますか?
もう統計結果もボロボロになりそう
鯖落ちの影響がデカすぎる
統計部の本スレってここで合ってる?
OffShoreでやってるとかってことはないよな?
一応ここのはずだけど統計ニキと副部長は軸足をオフショアに移しているかもしれない
>>651
2人の意見次第で場所移るかもしれんのね
現状鯖落ちまくりだし
書き込みクロールして2鯖体制で
スレ運用できれば良さそうだけど技術的に厳しいしなぁ
>>652
主にその二人が積極的に活動しているからってかんじ
まあ統計データなんて取りようもないかもねここまで苛烈な攻撃が続いてると