• ベストアンサー

大量件数のCSVを読み込んで出力するには

murasaki_rocksの回答

  • ベストアンサー
回答No.1

どんな方法でCSVを管理しているかが良く解らないんですが、 1つのCSVファイルに大量のデータが入っていて、1度にそのデータを全て読み、全て表示させるという事でしょうか? まず思ったのは遅くなるほどの大量データを一度に全て表示させる必要がありますか? もしこれが必要なら諦めるべきでは? 速さにこだわるならPerlよりCに替えてはどうでしょうか?

関連するQ&A

  • 大量のCSVファイルの各レコード件数を調べるには?

    CSVファイル(約150個)を結合した上であるツールで 処理をしたいのですが、結合前後でレコード件数が同じか どうか調べる必要があります。 結合前のファイルを一つずつ開くのは時間がかかるので、 何かいい方法はないでしょうか? (VBやACCESSは使えないので、フリーソフトか何かを  紹介頂けると助かります)

  • CSV出力に関して

    パソコンで「CSV出力が完了しました」と表示が出ているのに、データがどこにも反映されていません。 CSV出力した内容を、Excelのシートに移したいのですが、どのような手順で行えば良いのでしょうか?

  • CSV出力時、件数によりエラーとなってしまいます。

    はじめまして OS:2003Server、DB:SQL Server2000 WEBサーバ、DBサーバは別サーバです。 CSVを出力するASPを実行させているのですが、出力件数が多い時に下記エラーとなります。 (数十件の場合は、問題ありません。) 【エラー内容】  Microsoft OLE DB Provider for SQL Server エラー '80004005'  [DBNETLIB][ConnectionOpen (Connect()).]SQL Server が存在しないか、アクセスが拒否されました。  /daityo/CsvOut.asp,行168 エラー箇所としては、SQLを実行しDBにアクセスする命令時に発生します。(実行毎に、エラーとなる行が変わります。) どこかで、タイムアウトしているのかと思い、'MetaBase.xml’の下記部分の値を変更しましたが、改善されませんでした。 AspMaxRequestEntityAllowed="102400000" 現在、手詰まり状態です。 皆様のお力をお貸しいただけないでしょうか? 宜しくお願いいたします。

  • ファイルメーカーでcsv出力

    ファイルメーカーのcsv出力で質問があります。 明細テーブルと顧客テーブルの内容を連結してcsvファイルを出力したいのですが、 (明細テーブルの内容に顧客テーブルより顧客名称を付与する) どういった方法で出力するのが良いのでしょうか? ちなみに件数は毎回1000件前後です。 今は出力するcsvファイルのレイアウトのテーブルcを作成し、 いったん明細テーブルをインポートし、その後顧客テーブルより顧客名称を設定、 その後エクスポートでテーブルcのcsvファイルを出力しています。 あまり余計なテーブルを増やしたくないので 他に良い方法があればと思い質問しました。 よろしくお願いします。

  • CSV出力スクリプトについて

    CSV出力のスクリプトを作成しました。 単純に1つのテーブルをそのままCSVで出力するだけです。 件数は60万件程度です。 問題はたとえばKAIIN_NOの項目が桁数20桁の場合に出力されるCSVが20桁を超えて50桁くらいで出力されたりします。項目桁数と同じではなくてもよいのですが、空白を出力したくないです。 なにかよい方法はありますでしょうか? ※Select文でTrimをかけても効果はありませんでした。 --CSV出力 -- set line 100 -- set echo off コマンド表示を抑止する -- set termout off 画面出力を抑止する -- set heading off 列タイトルの表示を抑止する -- set feedback off 結果メッセージの表示を抑止する -- set colsep ',' 列と列の区切りをカンマ(,)にする set line 100 set echo off set termout off set heading off set feedback off set colsep ',' /* spoolコマンドでファイル出力を開始する */ spool C:\tmp\sample.csv /* 問い合わせ結果がファイルtest.csvに出力される */ SELECT KAIIN_NO, STS_NO, SYOHIN_NO FROM SAMPLE; /* spool offでファイル出力を終了する */ spool off

  • CSV出力時、件数によりエラーとなってしまいます。

    はじめまして IISの問題か、SQL Serverの問題なのかわからないので、両カテゴリーに同様の質問をさせていただいております。 OS:2003Server、DB:SQL Server2000 WEBサーバ、DBサーバは別サーバです。 CSVを出力するASPを実行させているのですが、出力件数が多い時に下記エラーとなります。 (数十件の場合は、問題ありません。) 【エラー内容】  Microsoft OLE DB Provider for SQL Server エラー '80004005'  [DBNETLIB][ConnectionOpen (Connect()).]SQL Server が存在しないか、アクセスが拒否されました。  /daityo/CsvOut.asp,行168 エラー箇所としては、SQLを実行しDBにアクセスする命令時に発生します。(実行毎に、エラーとなる行が変わります。) どこかで、タイムアウトしているのかと思い、'MetaBase.xml’の下記部分の値を変更しましたが、改善されませんでした。 AspMaxRequestEntityAllowed="102400000" 現在、手詰まり状態です。 皆様のお力をお貸しいただけないでしょうか? 宜しくお願いいたします。

  • CSV出力スクリプトについて

    CSV出力のスクリプトを作成しました。 単純に1つのテーブルをそのままCSVで出力するだけです。 件数は60万件程度です。 問題は13,4件に1行改行されてしまいます。 この改行を省くことができるでしょうか? --CSV出力 -- set line 100 -- set echo off コマンド表示を抑止する -- set termout off 画面出力を抑止する -- set heading off 列タイトルの表示を抑止する -- set feedback off 結果メッセージの表示を抑止する -- set colsep ',' 列と列の区切りをカンマ(,)にする set line 100 set echo off set termout off set heading off set feedback off set colsep ',' /* spoolコマンドでファイル出力を開始する */ spool C:\tmp\sample.csv /* 問い合わせ結果がファイルtest.csvに出力される */ SELECT KAIIN_NO, STS_NO, SYOHIN_NO FROM SAMPLE; /* spool offでファイル出力を終了する */ spool off

  • csv出力

    csv出力をブログに載せるのには?どうすれば

  • MDBファイルをCSV出力したい

    こんばんは。 環境: OS:WINDOWS2000 VB6.0 sp5 アクセス2000 VBからアクセスのMDBデータをCSV形式で出力させようとしています。  mdbファイルが実行中にVBのexeを起動してcsvファイルを取得したいのですが、いい方法が分かりません。 閉じているMDBファイルのデータをCSVで出力することは可能です。  MDBファイルが開いているとexeを実行した時に「実行時エラー7866 データベースが開いています」というようなメッセージが出て処理ができません。 なにかいい方法はないでしょうか よろしくお願いいたします。

  • CSV出力

    cakephpにて開発をしています。 CSV出力するためにダイアログを表示したいのですが 表示されず、画面にcsvのデータが表示されてしまいます。 $csv_file = sprintf($this->convert_sjis("テスト_%s.csv"), date("Ymd-hi")); // 適当にファイル名を指定 header ("Content-disposition: attachment; filename=" . $csv_file); header ("Content-type: application/octet-stream; name=" . $csv_file); print($buf); // 出力 readfile($outputFile); phpのソースです。以前はこれでダイアログが表示されたのですが ajaxで呼び出すように修正したあとから画面に出力されるようになってしまいました。なにかご存知でしたらご教示お願いします。

    • ベストアンサー
    • PHP