terça-feira, 29 de agosto de 2017

Row Locks (TX) - Como identificar a linha bloqueada

Em um banco de dados multiusuários como o Oracle database, é necessário que exista algum tipo de bloqueio de dados para que possam ser resolvidos os problemas associados à simultaneidade, consistência e integridade de dados. Estes bloqueios são mecanismos que impedem a interação destrutiva entre as transações que acessam o mesmo recurso.

Um dos tipos de bloqueios existentes é o bloqueio (lock) de linha identificado pelo evento de espera (wait event) "enq: TX - row lock contention".

Um lock do tipo linha ocorre naturalmente sobre a linha de uma tabela, ou seja, enquanto uma linha (registro) está "alocado", nenhuma outra sessão conseguirá alterá-lo até que a transação que originou o lock chegue ao seu fim, seja por commit ou rollback.


A identificação de um lock transacional (TX) pode ser realizada de diferentes formas, aqui utilizaremos o script utllockt.sql distribuído pela própria Oracle e encontrado abaixo do $ORACLE_HOME/rdbms/admin

Montando o cenário:

SESSÃO 1:


SQL> select distinct sid from v$mystat;

       SID
----------
        58

SQL> create table teste (id number);

Table created.

SQL> insert into teste values (1);

1 row created.

SQL> insert into teste values (2);

1 row created.

SQL> insert into teste values (3);

1 row created.

SQL> insert into teste values (4);

1 row created.

SQL> commit;

Commit complete.

SQL> update teste set id=5 where id=1;

1 row updated.

Observe que ao final do UPDATE não foi executado commit ou rollback;

SESSÃO 2:


SQL> select distinct sid from v$mystat;

       SID
----------
        51

SQL> update teste set id=6 where id=2;

1 row updated.

SQL> update teste set id=5 where id=1;


A sessão 2 (sid=51) ao tentar realizar a alteração da mesma linha da sessão 1 (sid=58) ficou "travada" pois a linha id=1 está bloqueada até que a sessão 1 realize um commit ou rollback do registro.


SESSÃO 3:


SQL> select distinct sid from v$mystat;

       SID
----------
        56

SQL> update teste set id=6 where id=2;

A sessão 3 (sid=56) ao tentar alterar a mesma linha que a sessão 2 (sid=51) também ficou presa, pois a sessão 2 ainda não concluiu sua transação, desta forma existe a sessão 2 aguardando a sessão 1 e a sessão 3 aguardando a sessão 2 conforme árvore de bloqueio abaixo:

SESSÃO 4:



SQL> set lines 200
SQL> @?/rdbms/admin/utllockt.sql
drop table lock_holders
           *
ERROR at line 1:
ORA-00942: table or view does not exist



Table created.

drop   table dba_locks_temp
             *
ERROR at line 1:
ORA-00942: table or view does not exist



Table created.


2 rows created.


Commit complete.


Table dropped.


1 row created.


Commit complete.


WAITING_SESSION   LOCK_TYPE         MODE_REQUESTED MODE_HELD      LOCK_ID1          LOCK_ID2
----------------- ----------------- -------------- -------------- ----------------- -----------------
58                None
   51             Transaction       Exclusive      Exclusive      196619            958
      56          Transaction       Exclusive      Exclusive      327712            947


Table dropped.

Cenário de bloqueio:



Identificando as linhas bloqueadas:

Sempre que uma sessão fica aguardando um lock transacional (row lock – TX), algumas informações adicionais são pobuladas na v$session:




Utilizando-se destes dados é possível identificar o ROWID da linha bloqueada.

O ROWID é uma pseudocolumn que representa o endereço de cada linha de uma tabela. Os valores desta pseudocoluna são strings que podem conter os caracteres A-Z, a-z, 0-9 e o sinal de mais (+) e a barra (/).

Os rowids são formados pelas seguintes informações:

  •          Data block: Bloco de dados que contém a linha;
  •          Row: Linha no bloco de dados;
  •          Database file: Arquivo de dados que a linha;
  •         Data object number: Número de identificação do objeto.


Agora basta utilizar o pacote DBMS_ROWID para interpretar os conteúdos de rowid. As funções do pacote extraem e fornecem informações sobre os quatro elementos rowid listados acima.

Como as colunas ROW_WAIT_* da v$session são populadas apenas quando uma sessão está aguardando alguma transação, podemos identificar a rowid (endereço da linha) que as sessões 2 (sid=51) e 3 (sid=56) estão aguardando.


Linha bloqueada da sessão 2:


SQL> set lines 200
SQL> col object_name for a30
SQL> select o.object_name,
  2  s.row_wait_obj#,
  3  s.row_wait_file#,
  4  s.row_wait_block#,
  5  s.row_wait_row#,
  6  dbms_rowid.rowid_create ( 1, s.ROW_WAIT_OBJ#, s.ROW_WAIT_FILE#, s.ROW_WAIT_BLOCK#, s.ROW_WAIT_ROW# ) as "ROWID"
  7  from v$session s, dba_objects o
  8  where s.sid=51
  9  and s.ROW_WAIT_OBJ# = o.OBJECT_ID;


OBJECT_NAME                    ROW_WAIT_OBJ# ROW_WAIT_FILE# ROW_WAIT_BLOCK# ROW_WAIT_ROW# ROWID
------------------------------ ------------- -------------- --------------- ------------- ------------------
TESTE                                  57927              1           83065             0 AAAOJHAABAAAUR5AAA


SQL> select * from teste where rowid='AAAOJHAABAAAUR5AAA';

        ID
----------
         1

 Linha bloqueada da sessão 3:



SQL> select o.object_name,
  2  s.row_wait_obj#,
  3  s.row_wait_file#,
  4  s.row_wait_block#,
  5  s.row_wait_row#,
  6  dbms_rowid.rowid_create ( 1, s.ROW_WAIT_OBJ#, s.ROW_WAIT_FILE#, s.ROW_WAIT_BLOCK#, s.ROW_WAIT_ROW# ) as "ROWID"
  7  from v$session s, dba_objects o
  8  where s.sid=56
  9  and s.ROW_WAIT_OBJ# = o.OBJECT_ID;


OBJECT_NAME                    ROW_WAIT_OBJ# ROW_WAIT_FILE# ROW_WAIT_BLOCK# ROW_WAIT_ROW# ROWID
------------------------------ ------------- -------------- --------------- ------------- ------------------
TESTE                                  57927              1           83065             1 AAAOJHAABAAAUR5AAB


SQL> select * from teste where rowid='AAAOJHAABAAAUR5AAB';

        ID
----------
         2

Neste exemplo (cenário), como não foi utilizado bind variables nas operações DML é possível identificar também o valor bloqueado pelo próprio texto sql da instrução:



SQL> select sql_id from v$session where sid=51;

SQL_ID
-------------
g7tsgdb2thq5t

SQL> select sql_fulltext from v$sql where sql_id='g7tsgdb2thq5t';

SQL_FULLTEXT
--------------------------------------------------------------------------------
update teste set id=5 where id=1

SQL> select sql_id from v$session where sid=56;

SQL_ID
-------------
7r7ugkhm1bnaz

SQL> select sql_fulltext from v$sql where sql_id='7r7ugkhm1bnaz';

SQL_FULLTEXT
--------------------------------------------------------------------------------
update teste set id=6 where id=2


Com a utilização de bind variables a instrução retornada seria similar a:



update teste set id=:b2 where id=:b1


A identificação da instrução também é importante para saber quais colunas estão sofrendo alterações, pois a linha retornada pelo rowid pode conter várias colunas diferentemente do exemplo onde a tabela possuía apenas uma coluna.


Referências:

https://docs.oracle.com/database/122/CNCPT/data-concurrency-and-consistency.htm#CNCPT1313
https://docs.oracle.com/database/122/REFRN/V-SESSION.htm#REFRN30223

https://docs.oracle.com/database/122/SQLRF/Data-Types.htm#SQLRF50998
Mais informações →

sábado, 5 de agosto de 2017

Oracle RAC 10g sobre GRID 11g

Executando o DBCA (database configuration assistant) para criar uma nova base de dados RAC 10g (10.2.0.5) sobre um grid 11g (11.2.0.4) notei que na tela de "boas-vindas" não haviam as opções de tipo de database para seleção (RAC ou Single), logo, se a criação fosse prosseguida teria-se ao final uma base de dados single instance.



Conforme notas:


  • Pre 11.2 Database Issues in 11gR2 Grid Infrastructure Environment (Doc ID 948456.1)
  • RAC: Frequently Asked Questions (RAC FAQ) (Doc ID 220970.1)

Para se criar um database inferior a versão 11gR2 sobre um grid infrastructure 11gR2 é necessário que os nodes sejam pinados (fixados) no CRS.

Como root:


[root@srvtst01 ~]# olsnodes -t -n
srvtst01      1       Unpinned
srvtst02      2       Unpinned
[root@srvtst01 ~]# crsctl pin css -n srvtst01 srvtst02
CRS-4664: Node srvtst01 successfully pinned.
CRS-4664: Node srvtst02 successfully pinned.
[root@srvtst01 ~]# olsnodes -t -n
srvtst01      1       Pinned
srvtst02      2       Pinned
[root@srvtst01 ~]#

Feito o ajuste bastou abrir novamente o DBCA que as opções já estavam disponíveis.




Outro detalhe em relação a criação de um banco pré 11gR2 sobre um grid 11gR2 destacado nas mesmas notas supracitadas é a existência do bug 8288940 que foi corrigido na versão 10.2.0.5 porém requer que um patch <patch 8288940> seja aplicado nas demais versões 10.2.0.3, 10.2.0.4, 11.1.0.6 e 11.1.0.7



Mais informações →

quarta-feira, 12 de julho de 2017

Importando catálogos RMAN - IMPORT CATALOG

Possuir uma política de backup e recuperação segura e eficaz é primordial para a sustentação de negócios e tecnologias. Quando se fala de backup e recovery no Oracle Database claramente se fala de RMAN (Recovery Manager), ferramenta criada e fornecida pela Oracle que proporciona diferentes opções de backup, restauração e recuperação dos dados.

Uma das boas práticas relacionadas ao RMAN é a utilização do catálogo de recuperação, seja para proporcionar uma melhor organização e centralização dos metadados de backups como para aumentar o tempo de retenção dos históricos de backups em relação ao control file, armazenamento de scripts RMAN e sincronização de backups Primary & Standby.

Frente a boa prática de utilização do catálogo RMAN, a Oracle introduziu a partir da versão 11g uma nova feature (característica) chamada IMPORT CATALOG. O comando IMPORT CATALOG simplesmente permite a importação dos metadados de um catálogo de recuperação para dentro de outro catálogo de recuperação.

Anterior a versão 11g era muito comum a existência de vários catálogos de recuperação pelo fato de não haver um controle do que cada administrador do catálogo poderia fazer ou ver, permitindo assim que um comando indevido ou mesmo malicioso destruísse o catálogo de outras bases de dados.


Junto com a versão 11g foi introduzido também o Virtual Private Catalog, desta forma, tornava-se agora possível restringir o que cada administrador do catálogo poderia fazer ou ver, com isso a centralização dos metadados de backups dentro de um único catálogo se tornou mais comum e atrativa.

Toda a sintaxe e utilização do comando IMPORT CATALOG é bem simples:


connectStringSpec
Especifica a string de conexão com o catálogo de recuperação de onde se quer importar os metadados.
DBID <integer>
Especifica a lista de DBIDs que se quer importar do antigo catálogo para o novo catálogo.
Quando não for especificado, todos os DBIDs serão copiados (migrados) para o novo catálogo e descatalogados do antigo catálogo (default).
DB_NAME <database_name>
Especifica a lista de databases que se quer importar do antigo catálogo para o novo catálogo.
Quando não for especificado, todos os databases serão copiados (migrados) para o novo catálogo e descatalogados do antigo catálogo (default).
NO UNREGISTER
Se especificado, força o RMAN a manter os metadados importados tanto no catálogo de origem (antigo) quanto no catálogo de destino (novo).

Alguns casos de uso demonstrando diferentes formas de utilização do IMPORT CATALOG:

Catalogo atual (origem):



[oracle@tst1 ~]$ rman catalog rman/rman

Recovery Manager: Release 11.2.0.4.0 - Production on Thu Jun 29 21:07:56 2017

Copyright (c) 1982, 2011, Oracle and/or its affiliates.  All rights reserved.

connected to recovery catalog database

RMAN> list db_unique_name all;


List of Databases
DB Key  DB Name  DB ID            Database Role    Db_unique_name
------- ------- ----------------- ---------------  ------------------
661     DBPROD   1035714218       PRIMARY          DBPROD
361     UTF      1300612639       PRIMARY          UTF
1       DBTST    3113417416       PRIMARY          DBTST


 Catalogo destino (novo):



[oracle@tst1 ~]$ rman catalog rman/rman

Recovery Manager: Release 11.2.0.4.0 - Production on Thu Jun 29 21:08:25 2017

Copyright (c) 1982, 2011, Oracle and/or its affiliates.  All rights reserved.

connected to recovery catalog database

RMAN> list db_unique_name all;


RMAN> IMPORT CATALOG rman@CATALOGO DB_NAME=UTF;

Starting import catalog at 29-JUN-17
source recovery catalog database Password:
connected to source recovery catalog database
import validation complete
database unregistered from the source recovery catalog
Finished import catalog at 29-JUN-17

RMAN> list db_unique_name all;


List of Databases
DB Key  DB Name  DB ID            Database Role    Db_unique_name
------- ------- ----------------- ---------------  ------------------
704     UTF      1300612639       PRIMARY          UTF

RMAN> IMPORT CATALOG rman@CATALOGO DBID=3113417416;

Starting import catalog at 29-JUN-17
source recovery catalog database Password:
connected to source recovery catalog database
import validation complete
database unregistered from the source recovery catalog
Finished import catalog at 29-JUN-17

RMAN> IMPORT CATALOG rman@CATALOGO NO UNREGISTER;

Starting import catalog at 29-JUN-17
source recovery catalog database Password:
connected to source recovery catalog database
import validation complete
Finished import catalog at 29-JUN-17

RMAN> list db_unique_name all;


List of Databases
DB Key  DB Name  DB ID            Database Role    Db_unique_name
------- ------- ----------------- ---------------  ------------------
2565    DBPROD   1035714218       PRIMARY          DBPROD
704     UTF      1300612639       PRIMARY          UTF
1123    DBTST    3113417416       PRIMARY          DBTST


 Referências:

https://docs.oracle.com/database/121/RCMRF/rcmsynta026.htm#RCMRF198
https://docs.oracle.com/database/121/BRADV/rcmmaint.htm#BRADV8007
Mais informações →

quarta-feira, 28 de junho de 2017

Reproduzindo SQL problems com o Oracle SQL Test Case Builder

Para a maioria dos problemas envolvendo um comando SQL, uma das principais causas que compromete a rápida resolução do problema é sua replicação para outro ambiente, seja para uma nova base de dados interna, onde testes e alterações poderiam ser conduzidas sem afetar diretamente o ambiente produtivo ou mesmo para encaminha-lo ao suporte da Oracle em busca de apoio junto a resolução do problema.

Uma das novas características do banco de dados Oracle introduzida desde a versão 11g Release 1 (com backporting para a versão 10.2.0.4) é o SQL Test Case Builder (TCB), seu objetivo é reunir de forma automática o máximo de informações possíveis relacionadas a um SQL problemático/incident e permitir a criação um ambiente totalmente reproduzível para diagnostico e reparo do problema.

As informações coletadas automaticamente pelo SQL Test Case Builder incluem:

·           Definições de todos objetos envolvidos (tabelas, índices, funções, procedures e packages);
·           Estatísticas do otimizador;
·           Plano de execução;
·           Definições de parâmetros de inicialização;
·           SQL profiles, stored outlines e outros SQL Management Objects;
·     Dados da(s) tabela(s) sendo utilizada(s) no processo (por padrão não exporta os dados) - utiliza o expdp; entre outras.

A saída (output) do TCB consiste em uma coleção de arquivos e scripts contendo os comandos necessários para se recriar todos os objetos e configurações do ambiente envolvidos no processo e que podem ser posteriormente importados em outra base de dados ou enviados ao suporte Oracle (MOS).

Todo o funcionamento do SQL Test Case Builder está abaixo do pacote DBMS_SQLDIAG onde existem as opções para exportar e importar os SQL testcases. O export do SQL testcase pode ser realizado através de um texto SQL (sql_text), sql_id ou número de um incidente gerado na base de dados (incident_id).


Para que os arquivo sejam gerados em disco, em todos os casos será necessário a utilização de um diretório (directory).


SQL> create or replace directory TCB_DIR as '/u01/tcbcase';

Directory created.

Abaixo estará sendo criado um conjunto de arquivos do Test Case Builder (TCB) relativo ao comando SQL especificado no parâmetro sql_text. Está sendo utilizado o testcase_name que incluirá o prefixo informado no parâmetro no início do nome dos arquivos criados e também é especificado o parâmetro exportData como TRUE de modo que seja exportado os dados dos segmentos envolvidos e não apenas a estrutura.

O parâmetro user_name representa o schema dos objetos envolvidos no processo. É utilizado apenas quando se exporta o test case através de um texto SQL (sql_text).


SQL> DECLARE
 result clob;
 BEGIN
 dbms_sqldiag.export_sql_testcase(
        directory     => 'TCB_DIR',
        user_name     => 'ANDERSON',
        sql_text      => 'select * from colaboradores',
        exportData    => TRUE,
        testcase_name => 'tcb_file_',
        testcase      => result);
 END;
/

PL/SQL procedure successfully completed.

Conjunto de arquivos criados:


[oracle@db3 ~]$ cd /u01/tcbcase
[oracle@db3 tcbcase]$ ls -lrt
total 396
-rw-r--r--. 1 oracle oinstall   2783 Mar 31 15:50 tcb_file_README.txt
-rw-r--r--. 1 oracle oinstall    256 Mar 31 15:50 tcb_file_ol.xml
-rw-r--r--. 1 oracle oinstall    204 Mar 31 15:50 tcb_file_sql.xml
-rw-r--r--. 1 oracle oinstall    402 Mar 31 15:50 tcb_file_prmimp.sql
-rw-r--r--. 1 oracle oinstall     63 Mar 31 15:50 tcb_file_ts.xml
-rw-r--r--. 1 oracle oinstall   4684 Mar 31 15:50 tcb_file_dpexp.sql
-rw-r-----. 1 oracle oinstall 335872 Mar 31 16:05 tcb_file_dpexp.dmp
-rw-r-----. 1 oracle oinstall    936 Mar 31 16:05 tcb_file_dpexp.log
-rw-r--r--. 1 oracle oinstall   4271 Mar 31 16:05 tcb_file_dpimp.sql
-rw-r--r--. 1 oracle oinstall    847 Mar 31 16:05 tcb_file_ssimp.sql
-rw-r--r--. 1 oracle oinstall   1066 Mar 31 16:05 tcb_file_smrpt.html
-rw-r--r--. 1 oracle oinstall    408 Mar 31 16:05 tcb_file_xpls.sql
-rw-r--r--. 1 oracle oinstall    699 Mar 31 16:05 tcb_file_xplo.sql
-rw-r--r--. 1 oracle oinstall    434 Mar 31 16:05 tcb_file_xplf.sql
-rw-r--r--. 1 oracle oinstall   2103 Mar 31 16:05 tcb_file_xpl.txt
-rw-r--r--. 1 oracle oinstall   2137 Mar 31 16:05 tcb_file_main.xml

O arquivo xxxxxxmain.xml, neste caso tcb_file_main.xml, é o arquivo de controle do SQL TCB, nele contém todas as descrições do test case e será utilizado como base para o processo de importação dos arquivos em outra base de dados.

Para criar o TCB através de um sql_id ou incident_id basta substituir o parâmetro sql_text por sql_id/incident_id especificando o identificador único do comando SQL (sql_id) ou o número do incidente SQL (incident_id).


SQL> select sql_id from v$sql where sql_text = 'select * from colaboradores';

SQL_ID
-------------
fnvr0vjw6f4ah

SQL> host rm -f /u01/tcbcase/*

SQL> DECLARE
 result clob;
 BEGIN
 dbms_sqldiag.export_sql_testcase(
        directory     => 'TCB_DIR',
        sql_id        => 'fnvr0vjw6f4ah',
        exportData    => TRUE,
        testcase_name => 'tcb_file_',
        testcase      => result);
 END;
/

PL/SQL procedure successfully completed.

Um SQL incident é gerado quando existe um SQL problemático em que múltiplos erros críticos são registrados (ORA-xxxxx). Através do Automatic Diagnostic Repository (ADR) a base de dados cria automaticamente um incidente para cada ocorrência do problema, sua localização é semelhante ao demonstrado abaixo onde o incnum representa o número do incident.

$ADR_HOME/incident/incdir_incnum

Exemplo de um incidente válido:


/orabin/app/oracle/diag/rdbms/cdb1/cdb1/incident/incdir_2557

SQL> host rm -f /u01/tcbcase/*

SQL> DECLARE
 result clob;
 BEGIN
 dbms_sqldiag.export_sql_testcase(
        directory     => 'TCB_DIR',
        incident_id   => 2557,
        exportData    => TRUE,
        testcase_name => 'tcb_file_',
        testcase      => result);
 END;
/

PL/SQL procedure successfully completed.

Afim de demonstração do processo de importação do SQL Test Case Builder em outra base de dados, foi gerado novamente o test case com base na consulta da tabela colaboradores (sql_text/sql_id).

Base de dados onde a estrutura ainda não existe.



SQL> desc anderson.colaboradores;
ERROR:
ORA-04043: object anderson.colaboradores does not exist

SQL> select username from dba_users where username='ANDERSON';

no rows selected

Criação do diretório (directory) apontando o caminho onde estão os arquivos:

SQL> create or replace directory TCB_DIR as '/u01/tcbcase';

Directory created.

Criação do usuário (schema) conforme a base de dados source:

SQL> create user anderson identified by anderson;

User created.

SQL> grant dba to anderson;

Grant succeeded.

Importando o test case:

SQL> conn anderson/anderson@pdb2;
Connected.

O parâmetro filename recebe como entrada o nome do arquivo de controle XML citado anteriormente que é identificado como *main.xml


SQL> BEGIN
 dbms_sqldiag.import_sql_testcase(
  directory     => 'TCB_DIR',
  filename      => 'tcb_file_main.xml');
 END;
/

PL/SQL procedure successfully completed.

Estando concluído o processo de importação a base de dados com o test case está pronta, basta agora executar os procedimentos/comandos problemáticos para que o impasse ocorra e que o diagnóstico e reparo possa ser empregado.

Algumas considerações importantes presentes no README gerado pelo TCB:


-- Note:
--
--      !!! You should not run TCB under user SYS !!!
--      Use another user, such as tcb, who can be granted dba role
--
--     .The <DIRECTORY_PATH_4_TCB_IMPORT> is the CURRENT directory where
--      all the TCB files have resided. It must be an OS path on local
--      machine, such as '/tmp/bug8010101'. It cannot be a path to other
--      machine, for example by mounting over a network file system.
--
--     .By default for TCB, the data is NOT exported
--      In some case data is required, for example, to diagnose wrong
--      result problem.
--        To export data, call export_sql_testcase() with
--           exportData=>TRUE
--
--      Note the data will be imported by default, unless turned OFF by
--           importData=>FALSE
--
--     .TCB includes PL/SQL package spec by default , but not
--      the PL/SQL package body.
--      You may need to have the package body as well, for example,
--      to invoke the PL/SQL functions.
--        To export PL/SQL package body, call export_sql_testcase() with
--           exportPkgbody=>TRUE
--        To import PL/SQL package body, call import_sql_testcase() with
--           importPkgbody=>TRUE
--
--     .An example that you need to include PL/SQL package (body) is
--      you have VPD function defined in a package


Referências:
https://docs.oracle.com/cd/B28359_01/server.111/b28274/sql_overview.htm#PFGRF16001
https://docs.oracle.com/database/122/TGSQL/sql-test-case-builder.htm#TGSQL94870
How To Use SQL Test Case Builder [Video] (Doc ID 1208143.1)
Mais informações →

terça-feira, 25 de abril de 2017

Exadata database machine version

Para identificar a versão do Exadata machine, basta logar em um dbnode e executar o seguinte comando:

[root@exadata01 ~]# grep -i MACHINETYPES /opt/oracle.SupportTools/onecommand/databasemachine.xml
                X5-2 Quarter Rack HC 8TB
[root@exadata01 ~]#

X5-2 Quarter Rack HC 8TB 

HP = High Performance
HC = High Capacity

Mais informações →

segunda-feira, 24 de abril de 2017

Importando dados com o Oracle SQL*Loader

O Oracle SQL*Loader é um utilitário presente tanto na instalação do Oracle Server quanto na instalação do Oracle client e sua função é basicamente ler arquivos textos e inserir os dados no banco de dados.

Sua vantagem é de ser extremamente flexível e rápido em relação aos tradicionais scripts de INSERT o que permite a inserção de milhões de linhas em poucos segundos.

 Características do SQL*Loader:

·      Permite carregar dados via rede, ou seja, o arquivo de dados pode estar em um sistema diferente do banco de dados (userid=username/password@instance);

·      Permite carregar dados de vários arquivos de dados durante a mesma sessão de carga;

·      Permite Carregar dados em várias tabelas durante a mesma sessão de carga;

·      Permite especificar o conjunto de caracteres (CHARACTERSET) dos dados;

·      Permite carregar dados de forma seletiva (pode carregar registos com base nos valores dos registos) - "when" categoria='Bebida';

·      Permite a manipulação dos dados antes de carregá-los, usando funções SQL;

·      Permite gerar valores sequencias para uma determinada coluna, entre outras.

A inserção dos dados é realizada com base em um arquivo de controle (control file) onde estão previamente configuradas informações como a localização do arquivo de dados (data file), como analisar e interpretar os dados, onde inserir os dados, entre outras configurações possíveis.

Além do arquivo de controle (control file) e arquivo de dados (data file), a estrutura do SQL*Loader é composta ainda pelo arquivo de log (log file) que contém um detalhamento do processo de carga, arquivo de dados rejeitados (bad file) contendo os registros rejeitados durante o processo de carga de dados e o arquivo de dados descartados (discard file) que é criado apenas se for especificado no arquivo de controle e que registra os dados descartados do processo de carga por não atenderem os critérios de seleção dos dados.


O SQL*Loader, assim como diversos outros utilitários Oracle, está abaixo do $ORACLE_HOME/bin sendo identificado pelo nome sqlldr.

Fazendo uma simples chamada, sem nenhum parâmetro, podemos ver diversas opções/comandos de utilização.



[oracle@db2 ~]$ sqlldr

SQL*Loader: Release 12.1.0.2.0 - Production on Thu Mar 16 15:02:07 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.


Usage: SQLLDR keyword=value [,keyword=value,...]

Valid Keywords:

    userid -- ORACLE username/password
   control -- control file name
       log -- log file name
       bad -- bad file name
      data -- data file name
   discard -- discard file name
discardmax -- number of discards to allow          (Default all)
      skip -- number of logical records to skip    (Default 0)
      load -- number of logical records to load    (Default all)
    errors -- number of errors to allow            (Default 50)
      rows -- number of rows in conventional path bind array or between direct path data saves
               (Default: Conventional path 64, Direct path all)
  bindsize -- size of conventional path bind array in bytes  (Default 256000)
    silent -- suppress messages during run (header,feedback,errors,discards,partitions)
    direct -- use direct path                      (Default FALSE)
   parfile -- parameter file: name of file that contains parameter specifications
  parallel -- do parallel load                     (Default FALSE)
      file -- file to allocate extents from
skip_unusable_indexes -- disallow/allow unusable indexes or index partitions  (Default FALSE)
skip_index_maintenance -- do not maintain indexes, mark affected indexes as unusable  (Default FALSE)
commit_discontinued -- commit loaded rows when load is discontinued  (Default FALSE)
  readsize -- size of read buffer                  (Default 1048576)
external_table -- use external table for load; NOT_USED, GENERATE_ONLY, EXECUTE
columnarrayrows -- number of rows for direct path column array  (Default 5000)
streamsize -- size of direct path stream buffer in bytes  (Default 256000)
multithreading -- use multithreading in direct path
 resumable -- enable or disable resumable for current session  (Default FALSE)
resumable_name -- text string to help identify resumable statement
resumable_timeout -- wait time (in seconds) for RESUMABLE  (Default 7200)
date_cache -- size (in entries) of date conversion cache  (Default 1000)
no_index_errors -- abort load on any index errors  (Default FALSE)
partition_memory -- direct path partition memory limit to start spilling (kb)  (Default 0)
     table -- Table for express mode load
date_format -- Date format for express mode load
timestamp_format -- Timestamp format for express mode load
terminated_by -- terminated by character for express mode load
enclosed_by -- enclosed by character for express mode load
optionally_enclosed_by -- optionally enclosed by character for express mode load
characterset -- characterset for express mode load
degree_of_parallelism -- degree of parallelism for express mode load and external table load
      trim -- trim type for express mode load and external table load
       csv -- csv format data files for express mode load
    nullif -- table level nullif clause for express mode load
field_names -- field names setting for first record of data files for express mode load
dnfs_enable -- option for enabling or disabling Direct NFS (dNFS) for input data files  (Default FALSE)
dnfs_readbuffers -- the number of Direct NFS (dNFS) read buffers  (Default 4)

PLEASE NOTE: Command-line parameters may be specified either by
position or by keywords.  An example of the former case is 'sqlldr
scott/tiger foo'; an example of the latter is 'sqlldr control=foo
userid=scott/tiger'.  One may specify parameters by position before
but not after parameters specified by keywords.  For example,
'sqlldr scott/tiger control=foo logfile=log' is allowed, but
'sqlldr scott/tiger control=foo log' is not, even though the
position of the parameter 'log' is correct.

Para Exemplificar alguns casos de uso do SQL*Loader foi criado a seguinte tabela:



SQL> create table produtos (
2  codigo   number,
3  nome     varchar2(100),
4  categoria varchar2(50),
5  data_inclusao date );

Table created.

Arquivo de dados que será utilizado em alguns exemplos:


[oracle@db2 ~]$ cat dados1.txt
1,Shampoo,Higiene,16-MAR-17
2,Creme Dental,Higiene,16-MAR-17
3,Detergente,Limpeza,16-MAR-17
4,Alvejante,Limpeza,16-MAR-17
5,Amaciante,Limpeza,16-MAR-17
6,Refrigerante,Bebida,16-MAR-17
7,Agua,Bebida,16-MAR-17
8,Cerveja,Bebida,16-MAR-17
9,Suco,Bebida,16-MAR-17
10,Whisky,Bebida,16-MAR-17

1.    Carregando os dados (“normal”):

Arquivo de controle:

[oracle@db2 ~]$ cat exemplo1.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados1.txt'
 badfile '/home/oracle/exemplo1.bad'
 discardfile '/home/oracle/exemplo1.dsc'
 into table produtos
 fields terminated by ","
( codigo, nome, categoria, data_inclusao )

ERRORS: Independente da quantidade de erros que ocorram, o processo de carga deve continuar, por isso o número alto. Caso nenhum erro seja permitido ajuste o valor para 0. O valor padrão deste parâmetro é 50;

ROWS: Frequência de commits, ou seja, no exemplo a cada 5 linhas inseridas irá ocorrer um commit;

CHARACTERSET: Character set utilizado;

INFILE: Nome do arquivo texto que contém os dados que serão importados baseado nas configurações do control file;

BADFILE: Arquivo texto que será criado dos os registros rejeitados;

DISCARDFILE: Arquivo texto que será criado com os registros descartados mediante as condições de carga;

FIELDS TERMINATED BY: É o delimitador das colunas, ou seja, sempre que o caractere definido for encontrado significa que uma nova coluna se inicia.

Executando o SQL*Loader para carregar os registros contidos no arquivo dados1.txt baseado nas configurações do arquivo de controle (control file).




[oracle@db2 ~]$ sqlldr anderson/anderson@pdb1 control=exemplo1.ctl

SQL*Loader: Release 12.1.0.2.0 - Production on Thu Mar 16 15:04:08 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.

Path used:      Conventional
Commit point reached - logical record count 5
Commit point reached - logical record count 10

Table PRODUTOS:
  10 Rows successfully loaded.

Check the log file:
  exemplo1.log
for more information about the load.

Finalizada a execução, a saída do comando irá informar o nome do log gerado ( Check the log file: exemplo1.log ), nele existirá detalhes adicionais da carga.


[oracle@db2 ~]$ cat exemplo1.log

SQL*Loader: Release 12.1.0.2.0 - Production on Thu Mar 16 15:04:08 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.

Control File:   exemplo1.ctl
Character Set WE8ISO8859P1 specified for all input.

Data File:      /home/oracle/dados1.txt
  Bad File:     /home/oracle/exemplo1.bad
  Discard File: /home/oracle/exemplo1.dsc
 (Allow all discards)

Number to load: ALL
Number to skip: 0
Errors allowed: 9999999
Bind array:     5 rows, maximum of 256000 bytes
Continuation:    none specified
Path used:      Conventional

Table PRODUTOS, loaded from every logical record.
Insert option in effect for this table: INSERT

   Column Name                  Position   Len  Term Encl Datatype
------------------------------ ---------- ----- ---- ---- ---------------------
CODIGO                              FIRST     *   ,       CHARACTER
NOME                                 NEXT     *   ,       CHARACTER
CATEGORIA                            NEXT     *   ,       CHARACTER
DATA_INCLUSAO                        NEXT     *   ,       CHARACTER


Table PRODUTOS:
  10 Rows successfully loaded.
  0 Rows not loaded due to data errors.
  0 Rows not loaded because all WHEN clauses were failed.
  0 Rows not loaded because all fields were null.


Space allocated for bind array:                   5160 bytes(5 rows)
Read   buffer bytes: 1048576

Total logical records skipped:          0
Total logical records read:            10
Total logical records rejected:         0
Total logical records discarded:        0

Run began on Thu Mar 16 15:04:08 2017
Run ended on Thu Mar 16 15:04:09 2017

Elapsed time was:     00:00:00.40
CPU time was:         00:00:00.01

Registros na tabela PRODUTOS do banco de dados:


SQL> set lines 200
SQL> col nome for a30
SQL> col categoria for a20
SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         1 Shampoo                        Higiene              16-MAR-17
         2 Creme Dental                   Higiene              16-MAR-17
         3 Detergente                     Limpeza              16-MAR-17
         4 Alvejante                      Limpeza              16-MAR-17
         5 Amaciante                      Limpeza              16-MAR-17
         6 Refrigerante                   Bebida               16-MAR-17
         7 Agua                           Bebida               16-MAR-17
         8 Cerveja                        Bebida               16-MAR-17
         9 Suco                           Bebida               16-MAR-17
        10 Whisky                         Bebida               16-MAR-17

10 rows selected.

2.    Inserindo dados adicionais:


Após a inserção dos registros do arquivo dados1.txt se tornou necessário inserir alguns registros adicionais, desta forma, o SQL*Loader foi novamente executado informando um segundo arquivo de dados chamado dados2.txt, contudo ocorreu ocorre um erro informando que a tabela PROTUDOS precisa estar vazia.


[oracle@db2 ~]$ sqlldr anderson/anderson@pdb1 control=exemplo2.ctl

SQL*Loader: Release 12.1.0.2.0 - Production on Thu Mar 16 15:20:37 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.

Path used:      Conventional
SQL*Loader-601: For INSERT option, table must be empty.  Error on table PRODUTOS


Como o arquivo dados2.txt contém apenas registros adicionais, será utilizado o comando APPEND que instrui o SQL*Loader a "acrescentar" os registros do arquivo dados2 na tabela PRODUTOS.


[oracle@db2 ~]$ cat dados2.txt
11,Trigo,Cereal,16-MAR-17
12,Arroz,Cereal,16-MAR-17

Arquivo de controle contendo o comando APPEND:


[oracle@db2 ~]$ cat exemplo2.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados2.txt'
 badfile '/home/oracle/exemplo2.bad'
 discardfile '/home/oracle/exemplo2.dsc'
 append
 into table produtos
 fields terminated by ","
( codigo, nome, categoria, data_inclusao )


Execução do SQL*Loader para carregar os dados adicionais:



[oracle@db2 ~]$ sqlldr anderson/anderson@pdb1 control=exemplo2.ctl

SQL*Loader: Release 12.1.0.2.0 - Production on Thu Mar 16 15:28:12 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.

Path used:      Conventional
Commit point reached - logical record count 2

Table PRODUTOS:
  2 Rows successfully loaded.

Check the log file:
  exemplo2.log
for more information about the load.

Verificando se os registros foram acrescentados a tabela com sucesso:


SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         1 Shampoo                        Higiene              16-MAR-17
         2 Creme Dental                   Higiene              16-MAR-17
         3 Detergente                     Limpeza              16-MAR-17
         4 Alvejante                      Limpeza              16-MAR-17
         5 Amaciante                      Limpeza              16-MAR-17
         6 Refrigerante                   Bebida               16-MAR-17
         7 Agua                           Bebida               16-MAR-17
         8 Cerveja                        Bebida               16-MAR-17
         9 Suco                           Bebida               16-MAR-17
        10 Whisky                         Bebida               16-MAR-17
        11 Trigo                          Cereal               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        12 Arroz                          Cereal               16-MAR-17

12 rows selected.

Caso os novos registros tenham sido adicionados no mesmo arquivo de dados anterior (dados1.txt), utilize o parâmetro TRUNCATE em vez de APPEND, desta forma, a tabela será primeiramente truncada e posteriormente os dados inseridos.


[oracle@db2 ~]$ cat exemplo3.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados1.txt'
 badfile '/home/oracle/exemplo3.bad'
 discardfile '/home/oracle/exemplo3.dsc'
 truncate
 into table produtos
 fields terminated by ","
( codigo, nome, categoria, data_inclusao )

Execução do SQL*Loader com o novo arquivo de controle (control file):


[oracle@db2 ~]$ sqlldr anderson/anderson@pdb1 control=exemplo3.ctl

SQL*Loader: Release 12.1.0.2.0 - Production on Thu Mar 16 15:37:06 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.

Path used:      Conventional
Commit point reached - logical record count 5
Commit point reached - logical record count 10
Commit point reached - logical record count 12

Table PRODUTOS:
  12 Rows successfully loaded.

Check the log file:
  exemplo3.log


3.    Diferentes delimitadores:


Em alguns cenários os delimitadores dos registros poderão ser diferentes, como no arquivo de dados abaixo:


[oracle@db2 ~]$ cat dados3.txt
1,Shampoo|Higiene^16-MAR-17
2,Creme Dental|Higiene^16-MAR-17
3,Detergente|Limpeza^16-MAR-17
4,Alvejante|Limpeza^16-MAR-17
5,Amaciante|Limpeza^16-MAR-17
6,Refrigerante|Bebida^16-MAR-17
7,Agua|Bebida^16-MAR-17
8,Cerveja|Bebida^16-MAR-17
9,Suco|Bebida^16-MAR-17
10,Whisky|Bebida^16-MAR-17
11,Trigo|Cereal^16-MAR-17
12,Arroz|Cereal^16-MAR-17

Para carregar estes dados, além do já configurado terminated by "," será adicionado após cada coluna no arquivo de controle um novo terminated by especificando o caractere necessário para quebrar cada coluna.


[oracle@db2 ~]$ cat exemplo4.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados3.txt'
 badfile '/home/oracle/exemplo4.bad'
 discardfile '/home/oracle/exemplo4.dsc'
 truncate
 into table produtos
 fields terminated by ","
( codigo, nome terminated by "|", categoria terminated by "^", data_inclusao )


Execução:

[oracle@db2 ~]$ sqlldr anderson/anderson@pdb1 control=exemplo4.ctl

Verificando os registros:

SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         1 Shampoo                        Higiene              16-MAR-17
         2 Creme Dental                   Higiene              16-MAR-17
         3 Detergente                     Limpeza              16-MAR-17
         4 Alvejante                      Limpeza              16-MAR-17
         5 Amaciante                      Limpeza              16-MAR-17
         6 Refrigerante                   Bebida               16-MAR-17
         7 Agua                           Bebida               16-MAR-17
         8 Cerveja                        Bebida               16-MAR-17
         9 Suco                           Bebida               16-MAR-17
        10 Whisky                         Bebida               16-MAR-17
        11 Trigo                          Cereal               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        12 Arroz                          Cereal               16-MAR-17

12 rows selected.

4.    Formatando datatype DATE e definindo "tamanho fixo" para os dados:

Da mesma forma que um arquivo de dados pode ter diferentes delimitadores, também é possível que ele não tenha qualquer delimitador. Utilizando o comando "position(start:end)" é possível delimitar onde começa e onde termina cada coluna/registro.

Na coluna DATA_INCLUSAO, datatype DATE, também é permitido aplicar mascaras, transformando-a conforme necessidade.


Arquivo de dados:


[oracle@db2 ~]$ cat dados4.txt
1Shampoo1Higiene16/03/2017 16:18:00
2Shampoo2Higiene16/03/2017 16:18:00
3Shampoo3Higiene16/03/2017 16:18:00
4Shampoo4Higiene16/03/2017 16:18:00

Arquivo de controle contendo a máscara para a data_inclusao e com as posições de início:fim de cada coluna/registro:


[oracle@db2 ~]$ cat exemplo5.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados4.txt'
 badfile '/home/oracle/exemplo5.bad'
 discardfile '/home/oracle/exemplo5.dsc'
 truncate
 into table produtos
 fields terminated by ","
( codigo position(1:1), nome position(2:9), categoria position(10:16), data_inclusao position(17:35) "to_date(trim(:data_inclusao),'DD/MM/YYYY HH24:MI:SS')" )

Registros inseridos:

SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         1 Shampoo1                       Higiene              16-MAR-17
         2 Shampoo2                       Higiene              16-MAR-17
         3 Shampoo3                       Higiene              16-MAR-17
         4 Shampoo4                       Higiene              16-MAR-17

5.    Alterando os dados durante a carga:

Nem sempre os dados de entrada representam o formato ou nome que é necessário que eles tenham no banco de dados. Para tanto podemos usar funções SQL para “transformar” estes dados durante o processo de carga.


No exemplo será utilizado o arquivo de dados dados1.txt, onde cada código será incrementado em +10, o nome convertido para UPPERCASE (Maiúsculo) e a categoria além do UPPERCASE será substituída por DESCONHECIDA quando a categoria de entrada (arquivo de dados) for Limpeza.


[oracle@db2 ~]$ cat exemplo6.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados1.txt'
 badfile '/home/oracle/exemplo6.bad'
 discardfile '/home/oracle/exemplo6.dsc'
 truncate
 into table produtos
 fields terminated by ","
( codigo ":codigo+10", nome "upper(:nome)", categoria "upper(decode(:categoria,'Limpeza','Desconhecida', :categoria))", data_inclusao )

Verificando se os registros foram alterados durante a carga de dados conforme especificado:


SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        11 SHAMPOO                        HIGIENE              16-MAR-17
        12 CREME DENTAL                   HIGIENE              16-MAR-17
        13 DETERGENTE                     DESCONHECIDA         16-MAR-17
        14 ALVEJANTE                      DESCONHECIDA         16-MAR-17
        15 AMACIANTE                      DESCONHECIDA         16-MAR-17
        16 REFRIGERANTE                   BEBIDA               16-MAR-17
        17 AGUA                           BEBIDA               16-MAR-17
        18 CERVEJA                        BEBIDA               16-MAR-17
        19 SUCO                           BEBIDA               16-MAR-17
        20 WHISKY                         BEBIDA               16-MAR-17
        21 TRIGO                          CEREAL               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        22 ARROZ                          CEREAL               16-MAR-17

12 rows selected.

6.    Carregando dados de forma seletiva:


Se nem todos os dados precisam ser carregados, basta inserir a clausula WHEN logo após o "into table" onde apenas os registros que satisfazerem a condição serão carregados para a tabela no banco de dados.


[oracle@db2 ~]$ cat exemplo7.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados1.txt'
 badfile '/home/oracle/exemplo7.bad'
 discardfile '/home/oracle/exemplo7.dsc'
 truncate
 into table produtos
 when categoria = 'Bebida'
 fields terminated by ","
( codigo, nome, categoria, data_inclusao )

Dados que foram inseridos na tabela PRODUTOS:

SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         6 Refrigerante                   Bebida               16-MAR-17
         7 Agua                           Bebida               16-MAR-17
         8 Cerveja                        Bebida               16-MAR-17
         9 Suco                           Bebida               16-MAR-17
        10 Whisky                         Bebida               16-MAR-17

Como existem dados descartados em função da condição WHEN, o arquivo discardfile foi criado contendo os registros que foram descartados no processo de carga por não atenderem a condição imposta.


[oracle@db2 ~]$ cat exemplo7.dsc
1,Shampoo,Higiene,16-MAR-17
2,Creme Dental,Higiene,16-MAR-17
3,Detergente,Limpeza,16-MAR-17
4,Alvejante,Limpeza,16-MAR-17
5,Amaciante,Limpeza,16-MAR-17
11,Trigo,Cereal,16-MAR-17
12,Arroz,Cereal,16-MAR-17

7.    Utilizando valores sequenciais:

Nos exemplos até aqui utilizados, sempre existiu no arquivo de dados o código do produto, mas e se não existe? Pois bem, lembra da flexibilidade do SQL*Loader supracitada?

SEQUENCE(MAX): Especificado após o nome da coluna no arquivo de controle (control file) faz com que o SQL*Loader gere de forma sequencial os valores para a determinada coluna.

Arquivo de dados criado sem os códigos:


[oracle@db2 ~]$ cat dados5.txt
Shampoo,Higiene,16-MAR-17
Creme Dental,Higiene,16-MAR-17
Detergente,Limpeza,16-MAR-17
Alvejante,Limpeza,16-MAR-17
Amaciante,Limpeza,16-MAR-17
Refrigerante,Bebida,16-MAR-17
Agua,Bebida,16-MAR-17
Cerveja,Bebida,16-MAR-17
Suco,Bebida,16-MAR-17
Whisky,Bebida,16-MAR-17
Trigo,Cereal,16-MAR-17
Arroz,Cereal,16-MAR-17

Arquivo de controle com o sequence(max) na coluna código:

[oracle@db2 ~]$ cat exemplo8.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados5.txt'
 badfile '/home/oracle/exemplo8.bad'
 discardfile '/home/oracle/exemplo8.dsc'
 truncate
 into table produtos
 fields terminated by ","
( codigo sequence(max), nome, categoria, data_inclusao )

Após a execução da carga, foram inseridos os seguintes registros na tabela PRODUTOS:


SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         1 Shampoo                        Higiene              16-MAR-17
         2 Creme Dental                   Higiene              16-MAR-17
         3 Detergente                     Limpeza              16-MAR-17
         4 Alvejante                      Limpeza              16-MAR-17
         5 Amaciante                      Limpeza              16-MAR-17
         6 Refrigerante                   Bebida               16-MAR-17
         7 Agua                           Bebida               16-MAR-17
         8 Cerveja                        Bebida               16-MAR-17
         9 Suco                           Bebida               16-MAR-17
        10 Whisky                         Bebida               16-MAR-17
        11 Trigo                          Cereal               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        12 Arroz                          Cereal               16-MAR-17

12 rows selected.

Caso seja necessário carregar mais dados, não tem problema. Altere o arquivo de controle substituindo o comando TRUNCATE por APPEND. O sequence(max) irá continuar a sequência sem problemas.


[oracle@db2 ~]$ cat dados6.txt
Trigo,Cereal,16-MAR-17
Arroz,Cereal,16-MAR-17
[oracle@db2 ~]$ cat exemplo9.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados6.txt'
 badfile '/home/oracle/exemplo9.bad'
 discardfile '/home/oracle/exemplo9.dsc'
 append
 into table produtos
 fields terminated by ","
( codigo sequence(max), nome, categoria, data_inclusao )

Registros na tabela PRODUTOS após a carga de dados adicional:


SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        13 Trigo                          Cereal               16-MAR-17
        14 Arroz                          Cereal               16-MAR-17
         1 Shampoo                        Higiene              16-MAR-17
         2 Creme Dental                   Higiene              16-MAR-17
         3 Detergente                     Limpeza              16-MAR-17
         4 Alvejante                      Limpeza              16-MAR-17
         5 Amaciante                      Limpeza              16-MAR-17
         6 Refrigerante                   Bebida               16-MAR-17
         7 Agua                           Bebida               16-MAR-17
         8 Cerveja                        Bebida               16-MAR-17
         9 Suco                           Bebida               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        10 Whisky                         Bebida               16-MAR-17
        11 Trigo                          Cereal               16-MAR-17
        12 Arroz                          Cereal               16-MAR-17

14 rows selected.

Além da opção nativa do SQL*Loader ainda é possível utilizar sequences criadas na própria base de dados, contudo a antiga coluna de código ainda deve existir no arquivo de dados, caso contrário será gerado erro.

Será utilizado o arquivo de dados - dados1.txt para a simulação.


SQL> create sequence seq_tst1 start with 5 increment by 5;

Sequence created.

Arquivo de controle especificando a sequência criada no banco de dados:

[oracle@db2 ~]$ cat exemplo10.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados1.txt'
 badfile '/home/oracle/exemplo10.bad'
 discardfile '/home/oracle/exemplo10.dsc'
 truncate
 into table produtos
 fields terminated by ","
( codigo "SEQ_TST1.nextval", nome, categoria, data_inclusao )

Realizada a carga, seguem os dados carregados:


SQL> select * from produtos;


    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         5 Shampoo                        Higiene              16-MAR-17
        10 Creme Dental                   Higiene              16-MAR-17
        15 Detergente                     Limpeza              16-MAR-17
        20 Alvejante                      Limpeza              16-MAR-17
        25 Amaciante                      Limpeza              16-MAR-17
        30 Refrigerante                   Bebida               16-MAR-17
        35 Agua                           Bebida               16-MAR-17
        40 Cerveja                        Bebida               16-MAR-17
        45 Suco                           Bebida               16-MAR-17
        50 Whisky                         Bebida               16-MAR-17
        55 Trigo                          Cereal               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        60 Arroz                          Cereal               16-MAR-17

12 rows selected.

Outra opção para trabalhar com uma sequence da base de dados é via trigger, ou seja, a coluna código deve ser removida do arquivo de controle da mesma forma que no arquivo de dados também não é mais necessário.

Será utilizado o arquivo de dados - dados5.txt para a simulação, onde não existem valores "codigo".


Trigger criada na base de dados:


SQL> create trigger trg_seq_tst1 before insert on produtos
2 for each row
3 begin
4  select seq_tst1.nextval into :new.codigo from dual;
5 end;
6 /

Trigger created.

Arquivo de controle onde foi removido a coluna "codigo":

[oracle@db2 ~]$ cat exemplo11.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados5.txt'
 badfile '/home/oracle/exemplo11.bad'
 discardfile '/home/oracle/exemplo11.dsc'
 truncate
 into table produtos
 fields terminated by ","
( nome, categoria, data_inclusao )

Registros após a nova carga dos dados utilizando o arquivo de controle exemplo11.ctl:


SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        65 Shampoo                        Higiene              16-MAR-17
        70 Creme Dental                   Higiene              16-MAR-17
        75 Detergente                     Limpeza              16-MAR-17
        80 Alvejante                      Limpeza              16-MAR-17
        85 Amaciante                      Limpeza              16-MAR-17
        90 Refrigerante                   Bebida               16-MAR-17
        95 Agua                           Bebida               16-MAR-17
       100 Cerveja                        Bebida               16-MAR-17
       105 Suco                           Bebida               16-MAR-17
       110 Whisky                         Bebida               16-MAR-17
       115 Trigo                          Cereal               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
       120 Arroz                          Cereal               16-MAR-17

12 rows selected.

8.    Carregando dados de múltiplos arquivos de dados:


Para carregar dados de múltiplos arquivos, insira múltiplos infile dentro do arquivo de controle.


[oracle@db2 ~]$ cat exemplo12.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados1.txt'
 infile '/home/oracle/dados2.txt'
 badfile '/home/oracle/exemplo12.bad'
 discardfile '/home/oracle/exemplo12.dsc'
 truncate
 into table produtos
 fields terminated by ","
(  codigo, nome, categoria, data_inclusao )

Como no meu arquivo de dados dados1.txt atualmente existem registros duplicados com o dados2.txt, será criado uma primary key (PK) na tabela PRODUTOS sobre a coluna codigo de forma a não importar dados duplicados e gerar o arquivo badfile com os registros rejeitados.


SQL> alter table produtos add constraint pk_cod primary key(codigo);

Table altered.

Execução da carga:


[oracle@db2 ~]$ sqlldr anderson/anderson@pdb1 control=exemplo12.ctl

SQL*Loader: Release 12.1.0.2.0 - Production on Thu Mar 16 19:43:39 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.

Path used:      Conventional
Commit point reached - logical record count 5
Commit point reached - logical record count 10
Commit point reached - logical record count 12
Commit point reached - logical record count 14

Table PRODUTOS:
  12 Rows successfully loaded.

Check the log file:
  exemplo12.log
for more information about the load.

Arquivos rejeitados (badfile) – O nome do caminho/arquivo é o configurado no arquivo de controle, neste caso /home/oracle/exemplo12.bad:


[oracle@db2 ~]$ cat exemplo12.bad
11,Trigo,Cereal,16-MAR-17
12,Arroz,Cereal,16-MAR-17

Erro gerado no arquivo de log que justificam os registros rejeitados:


[oracle@db2 ~]$ cat exemplo12.log | grep ORA-
ORA-00001: unique constraint (ANDERSON.PK_COD) violated
ORA-00001: unique constraint (ANDERSON.PK_COD) violated

Registros que foram inseridos:

SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         1 Shampoo                        Higiene              16-MAR-17
         2 Creme Dental                   Higiene              16-MAR-17
         3 Detergente                     Limpeza              16-MAR-17
         4 Alvejante                      Limpeza              16-MAR-17
         5 Amaciante                      Limpeza              16-MAR-17
         6 Refrigerante                   Bebida               16-MAR-17
         7 Agua                           Bebida               16-MAR-17
         8 Cerveja                        Bebida               16-MAR-17
         9 Suco                           Bebida               16-MAR-17
        10 Whisky                         Bebida               16-MAR-17
        11 Trigo                          Cereal               16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        12 Arroz                          Cereal               16-MAR-17

12 rows selected.

9.    Carregando dados em múltiplas tabelas:

Assim como para carregar múltiplos arquivos basta inserir outros infile no arquivo de controle, para carregar os dados em múltiplas tabelas basta inserir outros into table.


Neste exemplo será criado uma nova tabela chamada CATEGORIA onde teremos o código da categoria e seu respectivo nome.


SQL> create table categoria (
2  codigo  number,
3  nome   varchar2(100) );

Table created.

Na tabela PRODUTOS não existirá mais o nome da categoria, mas o código da categoria que fara referência a tabela CATEGORIA. Desta forma, o arquivo de controle foi ajustado para:



[oracle@db2 ~]$ cat exemplo13.ctl
options (errors=9999999, rows=5)
load data
 characterset WE8ISO8859P1
 infile '/home/oracle/dados1.txt'
 badfile '/home/oracle/exemplo13.bad'
 discardfile '/home/oracle/exemplo13.dsc'
 truncate
 into table produtos
 fields terminated by ","
( codigo, nome, categoria "decode(:categoria,'Higiene','1','Limpeza','2','Bebida','3','Cereal','4',:categoria)", data_inclusao )
 into table categoria
 fields terminated by ","
 trailing nullcols
( codigo "decode(:nome,'Higiene','1','Limpeza','2','Bebida','3','Cereal','4',:nome)", x filler position(1), y filler,  nome )

O decode na categoria foi inserido para transformar o "nome da categoria" em "códigos" para os mesmos grupos.


No arquivo de dados existem 4 colunas/registros para cada linha, diferentemente da tabela PRODUTOS a tabela CATEGORIA possui apenas 2 colunas e que não seguem a mesma sequência das colunas no arquivo de dados.


Para ler apenas a 3ª coluna de cada linha e popular corretamente a tabela CATEGORIA foi inserido o comando TRAILING NULLCOLS para que quando não houverem valores eles sejam nulos e foi criado colunas fictícias com o comando FILLER para simular as colunas do arquivo de dados.

Posterior a coluna código da CATEGORIA existe o FILLER x e y além da coluna nome. No arquivo de dados a coluna que contém os dados do nome da categoria é a 3ª e não a 4ª coluna, isto é necessário pois quando se trabalha com múltiplas tabelas e diferentes colunas de inserção o delimitador acaba se perdendo e para voltar ao início da linha foi atribuído junto ao comando FILLER da coluna x o comando position(1), por isso existem mais 3 colunas após a coluna categoria, justamente para simular as colunas fictícias desde o início de cada linha (null,null,CATEGORIA).

Executando a carga dos dados:


[oracle@db2 ~]$ sqlldr anderson/anderson@pdb1 control=exemplo13.ctl

SQL*Loader: Release 12.1.0.2.0 - Production on Fri Mar 17 14:33:33 2017

Copyright (c) 1982, 2014, Oracle and/or its affiliates.  All rights reserved.

Path used:      Conventional
Commit point reached - logical record count 5
Commit point reached - logical record count 10
Commit point reached - logical record count 12

Table PRODUTOS:
  12 Rows successfully loaded.

Table CATEGORIA:
  12 Rows successfully loaded.

Check the log file:
  exemplo13.log
for more information about the load.

Registros carregados na tabela PRODUTOS:


SQL> select * from produtos;

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
         1 Shampoo                        1                    16-MAR-17
         2 Creme Dental                   1                    16-MAR-17
         3 Detergente                     2                    16-MAR-17
         4 Alvejante                      2                    16-MAR-17
         5 Amaciante                      2                    16-MAR-17
         6 Refrigerante                   3                    16-MAR-17
         7 Agua                           3                    16-MAR-17
         8 Cerveja                        3                    16-MAR-17
         9 Suco                           3                    16-MAR-17
        10 Whisky                         3                    16-MAR-17
        11 Trigo                          4                    16-MAR-17

    CODIGO NOME                           CATEGORIA            DATA_INCL
---------- ------------------------------ -------------------- ---------
        12 Arroz                          4                    16-MAR-17

12 rows selected.

Pelo output (saída) da execução do SQL*Loader já é perceptível que ocorreu a inserção de 12 linhas também na tabela CATEGORIA, mas temos apenas 4 distintas categorias. Como não é possível trabalhar com distinct no SQL*Loader, basta agora remover os valores duplicados da tabela CATEGORIA.


SQL> delete from categoria A
2      where rowid > (select min(rowid)
3                       from categoria B
4                      where a.codigo = b.codigo
5                        and a.nome   = b.nome
6                     );

8 rows deleted.

SQL> commit;

Commit complete.

SQL> select * from categoria;

    CODIGO NOME
---------- ------------------------------
         1 Higiene
         2 Limpeza
         3 Bebida
         4 Cereal

Além das opções e comandos citados que já tornam o SQL*Loader uma poderosa ferramenta, ainda existem diversas outras parametrizações e comandos que podem ser empregados na sua configuração deixando-o ainda mais rápido (direct, parallel, etc) e versátil (skip, begindata, dnfs_enable, etc).


Referências:

https://docs.oracle.com/database/122/SUTIL/oracle-sql-loader-concepts.htm
https://docs.oracle.com/database/122/SUTIL/oracle-sql-loader-commands.htm
Mais informações →
Postagens mais antigas Página inicial

Translate

#Oracle

#Oracle
Disclaimer: The views expressed on this blog are my own and do not necessarily reflect the views of Oracle.

#Blog reconhecido

Marcadores

Postagens populares