SQLPlus - 从 PL/SQL 块假脱机到多个文件

Question

我有一个查询将大量数据返回到 CSV 文件中。事实上，行数太多，以至于 Excel 无法打开它。有没有办法控制 spool 每次处理 65000 行时假脱机到一个新文件？理想情况下，我希望将输出保存在按顺序命名的文件中，例如 large_data_1.csv、large_data_2.csv、large_data_3.csv等等...

我可以在 PL/SQL 块中使用 dbms_output 来控制输出多少行，但是我将如何切换文件，因为 spool 似乎没有可以从 PL/SQL 块访问吗？

（Oracle 10g）

更新：

我无权访问服务器，因此将文件写入服务器可能不起作用。

更新2：

某些字段包含自由格式文本，包括换行符，因此在写入文件后计算换行符并不像在返回数据时计算记录那么容易...

Answer 1

utl_file 是您要查找的包。您可以编写一个游标并循环遍历行（将它们写出），当 mod(num_rows_writing,num_per_file) == 0 时，就可以开始一个新文件了。它在 PL/SQL 块中运行良好。

以下是 utl_file 的参考：
http://www.adp-gmbh.ch/ora/plsql/utl_file。 html

注意：
我在这里假设可以将文件写到服务器上。

Answer 2

您是否考虑过在 Excel 中设置外部数据连接（假设生成的 CSV 文件仅用于 Excel）？您可以定义一个 Oracle 视图来限制返回的行，并在查询中添加一些参数以允许用户进一步限制结果集。 （无论如何，我从来不明白有人如何处理 Excel 中的 64K 行）。

我觉得这有点像黑客，但您也可以使用 UTL_MAIL 并生成附件以通过电子邮件发送给您的用户。附件的大小限制为 32K，因此您必须跟踪光标循环中的大小并在此基础上启动新附件。

Answer 3

虽然您的问题询问如何将大量数据分解为 Excel 可以处理的块，但我会问是否有 Excel 操作的任何部分可以移动到 SQL（PL/SQL？）中，从而减少数据量。最终它必须被减少才能对任何人都有意义。数据库是完成这项工作的一个很好的引擎。

当您将数据减少到更可呈现的数量甚至最终结果时，将其转储到 Excel 中以进行最终演示。

这不是您正在寻找的答案，但我认为当完成工作变得困难时询问您是否使用了正确的工具总是好的。

Answer 4

得到了一个解决方案，不知道为什么我没有早点想到这一点...

基本思想是主 sqplplus 脚本生成一个中间脚本，它将输出拆分为多个文件。执行中间脚本将执行对 rownum 施加不同范围的多个查询，并为每个查询假脱机到不同的文件。

set termout off
set serveroutput on
set echo off
set feedback off
variable v_rowCount number;
spool intermediate_file.sql
declare
     i number := 0;
     v_fileNum number := 1;
     v_range_start number := 1;
     v_range_end number := 1;
     k_max_rows constant number := 65536;
begin
    dbms_output.enable(10000);
    select count(*) 
    into :v_err_count
    from ...
    /* You don't need to see the details of the query... */

    while i <= :v_err_count loop

          v_range_start := i+1;
          if v_range_start <= :v_err_count then
            i := i+k_max_rows;
            v_range_end := i;

            dbms_output.put_line('set colsep ,  
set pagesize 0
set trimspool on 
set headsep off
set feedback off
set echo off
set termout off
set linesize 4000
spool large_data_file_'||v_fileNum||'.csv
select data_string
from (select rownum rn, data_object
      from 
      /* Details of query omitted */
     )
where rn >= '||v_range_start||' and rn <= '||v_range_end||';
spool off');
          v_fileNum := v_fileNum +1;
         end if;
    end loop;
end;
/
spool off
prompt     executing intermediate file
@intermediate_file.sql;
set serveroutput off

Answer 5

尝试使用纯 SQL*Plus 解决方案...

set pagesize 0
set trimspool on  
set headsep off 
set feedback off
set echo off 
set verify off
set timing off
set linesize 4000

DEFINE rows_per_file = 50


-- Create an sql file that will create the individual result files
SET DEFINE OFF

SPOOL c:\temp\generate_one.sql

PROMPT COLUMN which_dynamic NEW_VALUE dynamic_filename
PROMPT

PROMPT SELECT 'c:\temp\run_#'||TO_CHAR( &1, 'fm000' )||'_result.txt' which_dynamic FROM dual
PROMPT /

PROMPT SPOOL &dynamic_filename

PROMPT SELECT *
PROMPT   FROM ( SELECT a.*, rownum rnum
PROMPT            FROM ( SELECT object_id FROM all_objects ORDER BY object_id ) a
PROMPT           WHERE rownum <= ( &2 * 50 ) )
PROMPT  WHERE rnum >= ( ( &3 - 1 ) * 50 ) + 1
PROMPT /

PROMPT SPOOL OFF

SPOOL OFF

SET DEFINE &


-- Define variable to hold number of rows
-- returned by the query
COLUMN num_rows NEW_VALUE v_num_rows

-- Find out how many rows there are to be
SELECT COUNT(*) num_rows
  FROM ( SELECT LEVEL num_files FROM dual CONNECT BY LEVEL <= 120 );


-- Create a master file with the correct number of sql files
SPOOL c:\temp\run_all.sql

SELECT '@c:\temp\generate_one.sql '||TO_CHAR( num_files )
                                   ||' '||TO_CHAR( num_files )
                                   ||' '||TO_CHAR( num_files ) file_name
  FROM ( SELECT LEVEL num_files 
           FROM dual 
        CONNECT BY LEVEL <= CEIL( &v_num_rows / &rows_per_file ) )
/

SPOOL OFF

-- Now run them all
@c:\temp\run_all.sql

Answer 6

对生成的文件使用split。