Thứ Năm, 7 tháng 8, 2025

3 phương pháp đồng bộ dữ liệu realtime/incremental từ Oracle 11.2.0.2 sang MySQL (v8/v9)

Dưới đây là hướng dẫn chi tiết 3 phương pháp đồng bộ dữ liệu realtime/incremental từ Oracle 11.2.0.2 sang MySQL (v8/v9) — được trình bày theo từng bước, ưu nhược điểm, và lưu ý thực tiễn:

🔁 PHƯƠNG PHÁP 1: Oracle GoldenGate (Realtime - chuẩn hãng)

🎯 Mô tả:

GoldenGate (OGG) cho phép capture và replicate thay đổi DML (insert/update/delete) từ Oracle → MySQL gần như realtime bằng cách đọc redo log / archive log.

✅ Điều kiện:

  • Có license GoldenGate bản hỗ trợ MySQL.

  • Oracle phải ở chế độ ARCHIVELOG.

  • Bật Supplemental Logging.


⚙️ Cấu hình tổng thể:

1. Trên Oracle Source:

Bước 1: Bật ArchiveLog và Supplemental Log

ALTER DATABASE ADD SUPPLEMENTAL LOG DATA;
ALTER SYSTEM SET ENABLE_GOLDENGATE_REPLICATION=TRUE;
ALTER SYSTEM SWITCH LOGFILE;

Bước 2: Cấu hình Extract

ADD EXTRACT ext1, TRANLOG, BEGIN NOW
ADD EXTTRAIL ./dirdat/lt, EXTRACT ext1

Bước 3: Mapping table

TABLE your_schema.customer;

2. Trên MySQL Target:

Bước 1: Cấu hình Replicat

ADD REPLICAT rep1, TARGETDB, SPECIALRUN
MAP your_schema.customer, TARGET customer;

Bước 2: Khởi động Extract/Replicat

START EXTRACT ext1
START REPLICAT rep1

📌 Ưu - Nhược:

Ưu điểmNhược điểm
Realtime, chuẩn hãng OracleCần license
Đọc trực tiếp redo logKhó cấu hình nếu chưa quen
Hỗ trợ mapping nâng caoCần version GG phù hợp với Oracle/MySQL

⚡ PHƯƠNG PHÁP 2: Debezium + Kafka Connect (Realtime - Open Source)

🎯 Mô tả:

Dùng Debezium Oracle Connector đọc log từ Oracle → đẩy qua Kafka → xử lý qua Kafka Connect → đẩy vào MySQL.

✅ Điều kiện:

  • Cài Kafka, Kafka Connect, Debezium.

  • Oracle bật LogMiner hoặc XStream.

  • Phù hợp hệ thống event-driven.


🔧 Mô hình triển khai:

Oracle DB → Debezium Oracle Connector → Kafka → Kafka Connect Sink → MySQL

⚙️ Các bước chính:

1. Cấu hình Oracle

ALTER DATABASE ADD SUPPLEMENTAL LOG DATA;
ALTER SYSTEM SET ENABLE_GOLDENGATE_REPLICATION=TRUE;

2. Cấu hình Debezium connector (JSON):

File: oracle-source-connector.json
{ "name": "oracle-connector", "config": { "connector.class": "io.debezium.connector.oracle.OracleConnector", "tasks.max": "1", "database.hostname": "10.10.10.10", "database.port": "1521", "database.user": "debezium", "database.password": "debezium_password", "database.dbname": "ORCL", "database.server.name": "oracle1", "table.include.list": "YOUR_SCHEMA.CUSTOMER", "database.history.kafka.bootstrap.servers": "kafka:9092", "database.history.kafka.topic": "schema-changes.customer", "log.mining.strategy": "online_catalog", "database.connection.adapter": "logminer" } }

3. Kafka JDBC Sink Connector (Kafka → MySQL)

Cấu hình MySQL Sink Connector:

File: mysql-sink-connector.json

{ "name": "mysql-sink", "config": { "connector.class": "io.confluent.connect.jdbc.JdbcSinkConnector", "topics.regex": "oracle1.YOUR_SCHEMA.CUSTOMER", "connection.url": "jdbc:mysql://mysql_host:3306/target_db", "connection.user": "mysql_user", "connection.password": "mysql_password", "insert.mode": "upsert", "pk.mode": "record_key", "pk.fields": "ID", "auto.create": "true", "auto.evolve": "true" } }

4.Lệnh cài đặt connector vào Kafka Connect:

bash
curl -X POST -H "Content-Type: application/json" --data @oracle-source-connector.json http://localhost:8083/connectors curl -X POST -H "Content-Type: application/json" --data @mysql-sink-connector.json http://localhost:8083/connectors

📌 Ưu - Nhược:

Ưu điểmNhược điểm
Open source, không licensePhải quản lý Kafka, nhiều thành phần
Realtime, linh hoạtKhông dễ debug
Tích hợp tốt với kiến trúc event-drivenYêu cầu kỹ năng Kafka, Docker

🪵 PHƯƠNG PHÁP 3: Ghi log thủ công bằng PL/SQL trigger → đồng bộ sang MySQL (Incremental, đơn giản)

🎯 Mô tả:

  • Tạo bảng log_table lưu lại mọi thay đổi.

  • Trigger cập nhật log mỗi khi có thay đổi ở bảng nguồn.

  • Crontab hoặc script đọc log → đẩy sang MySQL.


🛠️ Cách triển khai:

1. Tạo bảng ghi log

CREATE TABLE log_customer (
id NUMBER, name VARCHAR2(100), action VARCHAR2(10), log_time DATE DEFAULT SYSDATE );

2. Tạo trigger theo dõi thay đổi

CREATE OR REPLACE TRIGGER trg_log_customer
AFTER INSERT OR UPDATE OR DELETE ON customer FOR EACH ROW BEGIN IF INSERTING THEN INSERT INTO log_customer (id, name, action) VALUES (:NEW.id, :NEW.name, 'INSERT'); ELSIF UPDATING THEN INSERT INTO log_customer (id, name, action) VALUES (:NEW.id, :NEW.name, 'UPDATE'); ELSIF DELETING THEN INSERT INTO log_customer (id, name, action) VALUES (:OLD.id, :OLD.name, 'DELETE'); END IF; END;

3. Script Python/Bash đẩy sang MySQL

#!/bin/bash
sqlplus -S user/pass@ORCL <<EOF > /tmp/log.csv SET PAGESIZE 0 FEEDBACK OFF VERIFY OFF HEADING OFF ECHO OFF SELECT id || ',' || name || ',' || action FROM log_customer; EOF mysql -u user -pPassword -e "LOAD DATA LOCAL INFILE '/tmp/log.csv' INTO TABLE customer_log FIELDS TERMINATED BY ',' LINES TERMINATED BY '\n';"

Có thể xóa log_customer sau khi đẩy đi hoặc đánh dấu processed.


📌 Ưu - Nhược:

Ưu điểmNhược điểm
Dễ triển khai, không cần licenseKhông realtime 100%
Dễ kiểm soát và debugTrigger làm tăng I/O
Phù hợp bảng nhỏ hoặc vừaKhông tự động schema mapping

Đồng bộ tự động với PL/SQL Trigger + Python  (Không dùng Kafka)

✅ A. Tạo bảng log trong Oracle

CREATE TABLE log_customer (
id NUMBER, name VARCHAR2(100), action VARCHAR2(10), log_time DATE DEFAULT SYSDATE, sync_status VARCHAR2(10) DEFAULT 'N' );

✅ B. Tạo trigger ghi log khi insert/update/delete

CREATE OR REPLACE TRIGGER trg_log_customer
AFTER INSERT OR UPDATE OR DELETE ON customer FOR EACH ROW BEGIN IF INSERTING THEN INSERT INTO log_customer (id, name, action) VALUES (:NEW.id, :NEW.name, 'INSERT'); ELSIF UPDATING THEN INSERT INTO log_customer (id, name, action) VALUES (:NEW.id, :NEW.name, 'UPDATE'); ELSIF DELETING THEN INSERT INTO log_customer (id, name, action) VALUES (:OLD.id, :OLD.name, 'DELETE'); END IF; END; /

✅ C. Tạo bảng tương ứng trong MySQL

CREATE TABLE customer (
id INT PRIMARY KEY, name VARCHAR(100), log_time DATETIME, action VARCHAR(10) );

✅ D. Python Script đồng bộ dữ liệu

File: sync_log_to_mysql.py

--python

import cx_Oracle import pymysql from datetime import datetime # Kết nối Oracle oracle_conn = cx_Oracle.connect("user", "password", "10.10.10.10/ORCL") oracle_cur = oracle_conn.cursor() # Kết nối MySQL mysql_conn = pymysql.connect(host='mysql_host', user='mysql_user', password='mysql_password', db='target_db') mysql_cur = mysql_conn.cursor() # Lấy dữ liệu chưa đồng bộ oracle_cur.execute(""" SELECT id, name, action, log_time FROM log_customer WHERE sync_status = 'N' """) rows = oracle_cur.fetchall() # Ghi vào MySQL for row in rows: id_, name, action, log_time = row if action == 'INSERT': mysql_cur.execute(""" INSERT INTO customer (id, name, log_time, action) VALUES (%s, %s, %s, %s) ON DUPLICATE KEY UPDATE name=%s, log_time=%s, action=%s """, (id_, name, log_time, action, name, log_time, action)) elif action == 'UPDATE': mysql_cur.execute(""" UPDATE customer SET name=%s, log_time=%s, action='UPDATE' WHERE id=%s """, (name, log_time, id_)) elif action == 'DELETE': mysql_cur.execute("DELETE FROM customer WHERE id=%s", (id_,)) # Đánh dấu đã sync oracle_cur.execute("UPDATE log_customer SET sync_status = 'Y' WHERE id = :1 AND log_time = :2", (id_, log_time)) # Commit mysql_conn.commit() oracle_conn.commit() # Đóng kết nối mysql_cur.close() mysql_conn.close() oracle_cur.close() oracle_conn.close()

✅ E. Cronjob 5 phút/lần

*/5 * * * * /usr/bin/python3 /path/to/sync_log_to_mysql.py >> /var/log/sync.log 2>&1

✅ KẾT LUẬN VÀ KIẾN NGHỊ

Mô hìnhTốt choChi phíPhức tạp
Oracle GoldenGateDoanh nghiệp có license Oracle$$$Trung bình
Debezium + KafkaKiến trúc microservice, realtime$ (Open Source)Cao
Trigger PL/SQL + Log TableCần incremental đơn giảnMiễn phíThấp
=============================
Website không chứa bất kỳ quảng cáo nào, mọi đóng góp để duy trì phát triển cho website (donation) xin vui lòng gửi về STK 90.2142.8888 - Ngân hàng Vietcombank Thăng Long - TRAN VAN BINH
=============================
Nếu bạn không muốn bị AI thay thế và tiết kiệm 3-5 NĂM trên con đường trở thành DBA chuyên nghiệp hay làm chủ Database thì hãy đăng ký ngay KHOÁ HỌC ORACLE DATABASE A-Z ENTERPRISE, được Coaching trực tiếp từ tôi với toàn bộ bí kíp thực chiến, thủ tục, quy trình của gần 20 năm kinh nghiệm (mà bạn sẽ KHÔNG THỂ tìm kiếm trên Internet/Google) từ đó giúp bạn dễ dàng quản trị mọi hệ thống Core tại Việt Nam và trên thế giới, đỗ OCP.
- CÁCH ĐĂNG KÝ: Gõ (.) hoặc để lại số điện thoại hoặc inbox https://m.me/tranvanbinh.vn hoặc Hotline/Zalo 090.29.12.888
- Chi tiết tham khảo:
https://bit.ly/oaz_w
=============================
2 khóa học online qua video giúp bạn nhanh chóng có những kiến thức nền tảng về Linux, Oracle, học mọi nơi, chỉ cần có Internet/4G:
- Oracle cơ bản: https://bit.ly/admin_1200
- Linux: https://bit.ly/linux_1200
=============================
KẾT NỐI VỚI CHUYÊN GIA TRẦN VĂN BÌNH:
📧 Mail: binhoracle@gmail.com
☎️ Mobile/Zalo: 0902912888
👨 Facebook: https://www.facebook.com/BinhOracleMaster
👨 Inbox Messenger: https://m.me/101036604657441 (profile)
👨 Fanpage: https://www.facebook.com/tranvanbinh.vn
👨 Inbox Fanpage: https://m.me/tranvanbinh.vn
👨👩 Group FB: https://www.facebook.com/groups/DBAVietNam
👨 Website: https://www.tranvanbinh.vn
👨 Blogger: https://tranvanbinhmaster.blogspot.com
🎬 Youtube: https://www.youtube.com/@binhguru
👨 Tiktok: https://www.tiktok.com/@binhguru
👨 Linkin: https://www.linkedin.com/in/binhoracle
👨 Twitter: https://twitter.com/binhguru
👨 Podcast: https://www.podbean.com/pu/pbblog-eskre-5f82d6
👨 Địa chỉ: Tòa nhà Sun Square - 21 Lê Đức Thọ - Phường Mỹ Đình 1 - Quận Nam Từ Liêm - TP.Hà Nội

=============================
AI, trí tuệ nhân tạo, artificial intelligence, machine learning, deep learning, LLM, ChatGPT, DeepSeek, Grok, oracle tutorial, học oracle database, Tự học Oracle, Tài liệu Oracle 12c tiếng Việt, Hướng dẫn sử dụng Oracle Database, Oracle SQL cơ bản, Oracle SQL là gì, Khóa học Oracle Hà Nội, Học chứng chỉ Oracle ở đầu, Khóa học Oracle online,sql tutorial, khóa học pl/sql tutorial, học dba, học dba ở việt nam, khóa học dba, khóa học dba sql, tài liệu học dba oracle, Khóa học Oracle online, học oracle sql, học oracle ở đâu tphcm, học oracle bắt đầu từ đâu, học oracle ở hà nội, oracle database tutorial, oracle database 12c, oracle database là gì, oracle database 11g, oracle download, oracle database 19c, oracle dba tutorial, oracle tunning, sql tunning , oracle 12c, oracle multitenant, Container Databases (CDB), Pluggable Databases (PDB), oracle cloud, oracle security, oracle fga, audit_trail,oracle RAC, ASM, oracle dataguard, oracle goldengate, mview, oracle exadata, oracle oca, oracle ocp, oracle ocm , oracle weblogic, postgresql tutorial, mysql tutorial, mariadb tutorial, ms sql server tutorial, nosql, mongodb tutorial, oci, cloud, middleware tutorial, hoc solaris tutorial, hoc linux tutorial, hoc aix tutorial, unix tutorial, securecrt, xshell, mobaxterm, putty

ĐỌC NHIỀU

Trần Văn Bình - Oracle Database Master