Журнал системного программиста » c-jdbc http://sadko.xskernel.org блог обо всём и ни о чём Wed, 14 Dec 2011 20:21:22 +0000 en hourly 1 http://wordpress.org/?v=3.3.1 Sequoia изнутри: заключение http://sadko.xskernel.org/archives/1403 http://sadko.xskernel.org/archives/1403#comments Fri, 28 Aug 2009 13:51:56 +0000 SadKo http://sadko.xskernel.org/?p=1403

Разбор полётов

В общем, сегодня решил, что ну её нафиг, эту Sequoia. Ибо я так и не нашёл в сети реализации класса, выполняющего бэкап данных СУБД ORACLE для Sequoia.
Разработчики много чего обещают, пророчат чуть ли не светлое будущее, а на самом деле ничего сверхнового и революционного в ней нет.
Изначально я думал, что разработчики написали свой парсер SQL-выражений под каждый движок, на деле же всё оказалось проще и прозаичнее: SQL-запросы тупо транслировались в базы.
Про атомарность транзакций я вообще молчу: в подобной архитектуре она в принципе не может быть реализована.

Также очень сомнительна предсказуемость работы такой «распределённой» БД: в случае, если будет, например, использоваться СУБД ORACLE, и в нём будут введены Sequences (которые инкрементируются независимо от того, прошла транзакция, или был выполнен rollback), рассинхронизация данных таблиц при частых распараллеленных commit/rollback очевидна.
Качая пакеты и исходники, я думал, что Sequoia — действительно серьёзный проект, так как архивы весили очень внушительно (21 метр для сорцов — не хухры-мухры), а на деле оказалось, что большую часть там занимали 3rd-party packages, а из исходников было только 86 файлов самого менеджера и примерно столько же файлов гламурной консоли управления.

Концепция

Несмотря на то, что Sequoia оказалось откровенной поделкой, концепция распределённой БД по принципу RAID достаточно интересна. Например, моё представление контроллера такой БД — это контроллер, который сам работает как БД, то есть имеет свой SQL-синтаксис, который потом адаптируется под синтаксис конкретного движка СУБД.
Пример: на вход контроллера подаётся такое выражение:

SELECT (nID, strMessage) FROM Tm_First
WHERE strMessage LIKE '%Hello%'
ORDER BY nID DESC LIMIT 2;

Для MySQL это транслируется в:

SELECT (`C_nID`, `C_strMessage`) FROM `T_Tm_First`
WHERE `C_strMessage` LIKE '%Hello%'
ORDER BY `C_nID` DESC LIMIT 2

А для Oracle, например, вот так:

SELECT "C_nID", "C_strMessage" FROM (
	SELECT "C_nID", "C_strMessage" FROM "T_Tm_First"
	WHERE "C_strMessage" LIKE "%Hello%"
	ORDER BY "C_nID" DESC)
WHERE rownum<=2

Как видно, в СУБД используется своя нотация, чтобы была возможность ведения системных таблиц для реализации транзакционности в распределённой базе.
Для этого в таблицы, например, при создании можно дописывать поля, такие как transaction_id, а также вести дополнительную таблицу незавершённых транзакций, чтобы обеспечить возможность отката, а также исключить видимость данных до вызова commit.
Таким образом, предыдущий пример усложняется для MySQL:

SELECT (`C_nID`, `C_strMessage`) FROM `T_Tm_First`
WHERE `C_strMessage` LIKE '%Hello%'
AND `trID` NOT IN (SELECT `nID` FROM `transactions`)
ORDER BY `C_nID` DESC LIMIT 2

И для ORACLE:

SELECT "C_nID", "C_strMessage" FROM (
	SELECT "C_nID", "C_strMessage" FROM "T_Tm_First"
	WHERE "C_strMessage" LIKE "%Hello%"
	AND "trID" NOT IN (SELECT "nID" FROM "transactions")
	ORDER BY "C_nID" DESC)
WHERE rownum<=2

Ну а про Recovery Log я вообще молчу: он должен быть в каждой БД, чтобы в случае отказа по другой БД можно было бы восстановить любую вновь введённую в строй.
Тем не менее, это очень ограничивает реальные рамки использования таких фич СУБД, как:

  • Триггеры (сложно, практически нереально сэмулировать сложные триггеры при batch-операциях без потери производительности);
  • Sequences (в принципе, можно сэмулировать);
  • PL/SQL (вообще непонятно как делать);
  • И т.д., и т.п. вещи, которые есть в одной СУБД, но отсутствуют или по-другому реализованы в другой.

Если подобные фичи не нужны, то, в принципе, можно написать адаптер под любую СУБД. Но тогда встаёт вопрос, зачем использовать столь мощную СУБД, если все её возможности не используются по максимуму.

Противопоставление

Естественно, ничего из предложенной мною концепции Sequoia не делает. Мало того, усугубляет всю свою «надёжную» схему в RAIDb1 введением дополнительной СУБД для Recovery Log и ведением дампов, которые должны храниться на хосте контроллера.
Да, она обеспечивает обратную совместимость с приложениями, но на этом всё и заканчивается.
Если и делать кластер — то либо средствами разработчиков СУБД, либо таким костылём, который предложил я. Третье вряд ли дано.

Резюме

Проект закрыть, исходники закопать и больше не выкапывать.

]]> http://sadko.xskernel.org/archives/1403/feed 0 Sequoia изнутри #3 http://sadko.xskernel.org/archives/1385 http://sadko.xskernel.org/archives/1385#comments Thu, 27 Aug 2009 14:46:01 +0000 SadKo http://sadko.xskernel.org/?p=1385

Пролог

В предыдущем посте я описал, на какие грабли пришлось наступить, чтобы заставить Sequoia создавать таблицы в RecoveryLog и запускать backends. Тем не менее, сама работа контроллера по-прежнему оставалась некорректной, и, как выяснилось, без правки исходников решить проблему никак не получалось.

Ковыряем исходники

Исходники Sequoia точно так же, как дистрибутив и документация, доступны на официальном сайте. После разархивации объём исходников меня разочаровал, я ожидал от подобной супер-системы большего числа файлов. Но не в количестве файлов суть.
Ещё раз поглядев на генерируемое исключение, я дополз до проблемного кода в файле src/org/continuent/sequoia/controller/recoverylog/events/LogRequestEvent.java. Вот он:

  public void execute(LoggerThread loggerThread,
      RecoveryLogConnectionManager manager)
  {

    Trace logger = loggerThread.getLogger();
    try
    {
      if (logger.isDebugEnabled())

        logger.debug(Translate.get("recovery.jdbc.loggerthread.log.info",
            logEntry.getLogId()));

      PreparedStatement pstmt = manager.getLogPreparedStatement();
      pstmt.setLong(RecoveryLog.COLUMN_INDEX_LOG_ID, logEntry.getLogId());

      pstmt.setString(RecoveryLog.COLUMN_INDEX_VLOGIN, logEntry.getLogin());
      pstmt.setString(RecoveryLog.COLUMN_INDEX_SQL, logEntry.getQuery());

      pstmt.setString(RecoveryLog.COLUMN_INDEX_SQL_PARAMS, logEntry
          .getQueryParams());
      pstmt.setString(RecoveryLog.COLUMN_INDEX_AUTO_CONN_TRAN, logEntry
          .getAutoConnTrans());

      pstmt.setLong(RecoveryLog.COLUMN_INDEX_TRANSACTION_ID, logEntry.getTid());
      pstmt.setLong(RecoveryLog.COLUMN_INDEX_REQUEST_ID, logEntry
          .getRequestId());

      pstmt.setString(RecoveryLog.COLUMN_INDEX_EXEC_STATUS, logEntry
          .getExecutionStatus());
      pstmt.setLong(RecoveryLog.COLUMN_INDEX_EXEC_TIME, logEntry
          .getExecutionTimeInMs());

      pstmt.setLong(RecoveryLog.COLUMN_INDEX_UPDATE_COUNT, logEntry
          .getUpdateCountResult());

      if (logger.isDebugEnabled())

        logger.debug(pstmt.toString());
      try
      {
        pstmt.setEscapeProcessing(logEntry.getEscapeProcessing());

      }
      catch (Exception ignore)
      {
      }
      // Здесь бросается исключение:

      int updatedRows = pstmt.executeUpdate();
      if ((updatedRows != 1) && logger.isWarnEnabled())

        logger
            .warn("Recovery log did not update a single entry while executing: "
                + pstmt.toString());
    }

    catch (SQLException e)
    {
      manager.invalidate();
      if ("T".equals(logEntry.getAutoConnTrans()))

        logger.error(Translate.get(
            "recovery.jdbc.loggerthread.log.failed.transaction", new String[]{

                logEntry.getQuery(), String.valueOf(logEntry.getTid())}), e);

      else
        logger.error(Translate.get("recovery.jdbc.loggerthread.log.failed",
            logEntry.getQuery()), e);

      // Push object back in the queue, it needs to be logged again
      loggerThread.putBackAtHeadOfQueue(this, e);
    }

  }

От этого кода я и стал плясать, в результате чего всё-таки смог найти место, где можно выплюнуть создаваемое SQL-выражение. Дело осталось за небольшим — скомпилить исходники.

Сборка Sequoia

Сборка, в принципе, несложна и выполняется через Ant. Но предварительно следовало сконфигурировать файл build.properties, в котором я прописал версию используемой JDK — 1.5:

javac.target = 1.5
javac.source = 1.5

После этого, немного поизучав build.xml, я запустил в shell следующую команду:

ant clean && ant jar

Исходники собрались (правда, с ворнингами, ARGH!!!), и у меня на руках уже были новые JAR, которые я и подпихнул взамен штатных.

Патчинг

После перезапуска контроллера пропатченный код выплюнул в лог SQL-выражения, используемые для вставки/обновления данных RecoveryLog:

2009-08-26 19:17:25,368 DEBUG sequoia.controller.recoverylog Insert statement: INSERT INTO T_RECOVERY VALUES(?,?,?,?,?,?,?,?,?,?)
2009-08-26 19:17:25,372 DEBUG sequoia.controller.recoverylog Update statement: UPDATE T_RECOVERY SET exec_status=?,update_count=?,exec_time=? WHERE log_id=?

Синтаксис INSERT-выражения меня просто убил, так как в нём не учтено, что поля могут поменяться местами. Потратив час на модификацию кода, я, в конце-концов, пропатчил создаваемые SQL-выражения, а также добавил отладочную инфу к проблемной функции в файле src/org/continuent/sequoia/controller/recoverylog/events/LogRequestEvent.java:

  public void execute(LoggerThread loggerThread,
      RecoveryLogConnectionManager manager)
  {

    Trace logger = loggerThread.getLogger();
    try
    {
      if (logger.isDebugEnabled())

        logger.debug(Translate.get("recovery.jdbc.loggerthread.log.info",
            logEntry.getLogId()));

      PreparedStatement pstmt = manager.getLogPreparedStatement();

      pstmt.setLong(RecoveryLog.COLUMN_INDEX_LOG_ID, logEntry.getLogId());

      if (logger.isDebugEnabled())
        logger.debug("logID = " + logEntry.getLogId());

      pstmt.setString(RecoveryLog.COLUMN_INDEX_VLOGIN, logEntry.getLogin());
      if (logger.isDebugEnabled())

        logger.debug("login = " + logEntry.getLogin());
      pstmt.setString(RecoveryLog.COLUMN_INDEX_SQL, logEntry.getQuery());

      if (logger.isDebugEnabled())
        logger.debug("query = " + logEntry.getQuery());

      pstmt.setString(RecoveryLog.COLUMN_INDEX_SQL_PARAMS, logEntry
          .getQueryParams());
      if (logger.isDebugEnabled())

        logger.debug("queryParams = " + logEntry.getQueryParams());
      pstmt.setString(RecoveryLog.COLUMN_INDEX_AUTO_CONN_TRAN, logEntry
          .getAutoConnTrans());

      if (logger.isDebugEnabled())
        logger.debug("autoConnTrans = " + logEntry.getAutoConnTrans());

      pstmt.setLong(RecoveryLog.COLUMN_INDEX_TRANSACTION_ID, logEntry.getTid());
      if (logger.isDebugEnabled())

        logger.debug("transactionID = " + logEntry.getTid());
      pstmt.setLong(RecoveryLog.COLUMN_INDEX_REQUEST_ID, logEntry
          .getRequestId());

      if (logger.isDebugEnabled())
        logger.debug("RequestID = " + logEntry.getRequestId());

      pstmt.setString(RecoveryLog.COLUMN_INDEX_EXEC_STATUS, logEntry
          .getExecutionStatus());
      if (logger.isDebugEnabled())

        logger.debug("executionStatus = " + logEntry.getExecutionStatus());
      pstmt.setLong(RecoveryLog.COLUMN_INDEX_EXEC_TIME, logEntry
          .getExecutionTimeInMs());

      if (logger.isDebugEnabled())
        logger.debug("executionTimeMs = " + logEntry.getExecutionTimeInMs());

      pstmt.setLong(RecoveryLog.COLUMN_INDEX_UPDATE_COUNT, logEntry
          .getUpdateCountResult());
      if (logger.isDebugEnabled())

        logger.debug("updateCount = " + logEntry.getUpdateCountResult());

      if (logger.isDebugEnabled())

        logger.debug(pstmt.toString());
      try
      {
        pstmt.setEscapeProcessing(logEntry.getEscapeProcessing());

      }
      catch (Exception ignore)
      {
      }

      int updatedRows = pstmt.executeUpdate();
      if ((updatedRows != 1) && logger.isWarnEnabled())

        logger
            .warn("Recovery log did not update a single entry while executing: "
                + pstmt.toString());
    }

    catch (SQLException e)
    {
      manager.invalidate();
      if ("T".equals(logEntry.getAutoConnTrans()))

        logger.error(Translate.get(
            "recovery.jdbc.loggerthread.log.failed.transaction", new String[]{

                logEntry.getQuery(), String.valueOf(logEntry.getTid())}), e);

      else
        logger.error(Translate.get("recovery.jdbc.loggerthread.log.failed",
            logEntry.getQuery()), e);

      // Push object back in the queue, it needs to be logged again
      loggerThread.putBackAtHeadOfQueue(this, e);
    }

  }

Ряд исключений сразу исчез. Тем не менее, остались ещё проблемы, которые были исправлены только за счёт комментирования этих строчек кода:

/*      try
      {
        pstmt.setEscapeProcessing(logEntry.getEscapeProcessing());
      }
      catch (Exception ignore)

      {
      }*/

Только после этого и очередной, N-надцатой пересборки пакетов перезапускаемый контроллер перестал ругаться на вставку и выборку данных при прогонке теста. Краш тест?

Краш-тест (leightweight version)

В качестве leightweight-теста я решил воспользоваться Sequoia Console и вырубить второй backend:

CJDBC(admin) > disable oracle02
Disabling backend oracle02 with automatic checkpoint.

Прогнав тест, я убедился, что в первую базу запись была вставлена, а в отключенную — нет. При чём, содержимое Recovery Log пополнилось записями:

LOG_ID                 VLOGIN                                                           SQL_QUERY                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                        SQL_QUERY_PARAM                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                  AUTO_CONN_TRAN TRANSACTION_ID         REQUEST_ID             EXEC_STATUS EXEC_TIME              UPDATE_COUNT
---------------------- ---------------------------------------------------------------- -------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- -------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- -------------- ---------------------- ---------------------- ----------- ---------------------- ----------------------
1                      user                                                             begin                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                             T              0                      0                      S           0                      -1
2                      user                                                             INSERT INTO Tm_First (nID, strMessage, nCode) VALUES (?, ?, ?)                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                       T              0                      0                      S           118                    1
3                      user                                                             commit                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                            T              0                      0                      S           0                      0
4                      user                                                             rollback                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                          T              1                      0                      S           0                      0

Что ж, впечатляет! Попробуем заново поднять backend:

CJDBC(admin) > enable oracle02
Enabling backend oracle02 from its last known checkpoint

После некоторых раздумий и логописательств, контроллер-таки остановился, и я убедился, что недостающая запись во второй базе появилась. Только это никак не ура, возвращаемся к краш-тестам.

Краш-тест (hardcore version)

Что ж, этот краш-тест, как и в предыдущих случаях, заключался в блокировке пользователя и обрубании коннекций с последующим запуском теста.
Что же в результате? В RecoveryLog появилась запись о вставке, и в первый backend запись была вставлена. Я, было, обрадовался такому положению дел и разлочил пользовательскую учётку, что не вызвало никакой реакции со стороны контроллера. Последующие запуски теста не накладывали никаких отпечатков на вторую доступную базу.
Тогда я решил перезапустить backend через консоль:

CJDBC(admin) > disable oracle02
Disabling backend oracle02 with automatic checkpoint.
CJDBC(admin) > enable oracle02
Enabling backend oracle02 from its last known checkpoint
Cannot enable backend oracle02 from a known state. Resynchronize this backend by restoring a dump.

Оппаньки! Это, значит, после временной потери коннекта я должен восстанавливать базу из бэкапа? Что за бред!!!

В поисках лекарства решил заглянуть в Administration Guide, но там нашёл инфу только про дампы.

Резюме

Фу и фи. Чем больше ковыряюсь в этой софтине, тем больше убеждаюсь в её реальной непродуманности и ненадёжности. Может быть, я чего-то упускаю, но за эти четыре дня у меня уже порой лезут глаза на лоб от её выходок. Больше всего поражают танцы с бубном вокруг, казалось бы, простых вещей. В общем, завтра ещё поковыряюсь с ней, может всё-таки докопаюсь до истины.

]]> http://sadko.xskernel.org/archives/1385/feed 0 Sequoia изнутри #2 http://sadko.xskernel.org/archives/1379 http://sadko.xskernel.org/archives/1379#comments Thu, 27 Aug 2009 13:19:02 +0000 SadKo http://sadko.xskernel.org/?p=1379

Введение

Собственно, после первой неудачи с RAIDb1, изложенной в этом посте, я решил воспользоваться такой фичей, как RecoveryLog. Для этого ещё раз перечитывал туториал по созданию виртуальной БД.

RecoveryLog

Что ж, для того, чтобы запустить RecoveryLog, нужно чётко прописать параметры каждой таблицы, а также заиметь ещё одну базу. Но, если мы заимеем ещё одну базу, надёжность такой системы резко снижается, так как в случае отказа RecoveryLog всё накрывается медным тазом. Как вариант, разработчики Sequoia предлагают создать для RecoveryLog отдельную виртуальную базу, объединённую… в RAIDb1! Это, получается, матрёшка в матрёшке. Поэтому такой бредятины я делать не стал, а просто-напросто создал в первой базе дополнительную схему (ну не было у меня ещё одного сервера БД), а вторую базу оставил под краш-тесты. Согласно заверениям разработчиков:

The C-JDBC Recovery Log stores write queries and transactions between logical checkpoints defined by the user. The log can be only be stored in a database (or cluster of databases) using a JDBCRecoveryLog element.

The JDBCRecoveryLog stores the recovery information in a database. To access this database, you must provide the driver class name to load (driver), an optional jar file or directory where to find the class to load (driverPath), the JDBC url to access the database as well as a valid login/password.

A timeout in seconds can be defined for the sql requests. If no value is given, the default timeout is set to 60 seconds. Warning! 0 means no timeout and wait forever until completion.

Вроде бы, всё понятно. То есть, я теперь должен описать все типы полей для таблиц, чем я кропотливо и занялся.

Грабли как они есть

Для экономии времени я скопировал пример из каталога config и прописал вместо указанных типов соответствующие им типы ORACLE. После этого я запустил систему, контроллер стартовал и, вроде бы, в лог никаких исключений не сыпалось, я решил запустить тест (см. предыдущий пост), который повис на коннекте, потому что контроллер почему-то не поднял ни одного backend. Что за ерунда?
После получаса гугления я-таки выполз на вот эту страничку:
Using Sequoia with GlassFish.
Собственно, оттуда почерпал сакральные знания о том, что нужно воспользоваться консолью, прилагаемой к дистрибутиву.

Sequoia controller console

Консоль запускается shell-скриптом из каталога bin, имеет гламурный вид (используются цветастые надписи). Примерно так:

sadovnikov:/opt/sequoia # bin/console.sh
Launching the Sequoia controller console
Initializing Controller module...
Initializing VirtualDatabase Administration module...
Initializing SQL Console module...
Sequoia driver (Sequoia core v2.10.10) successfully loaded.
localhost:1090 >

При этом, контроллер тоже должен быть запущен.
Далее надо указать, какую виртуальную базу мы хотим админить:

localhost:1090 > admin CJDBC
Virtual database Administrator Login > admin
Virtual database Administrator Password >
Ready to administrate virtual database CJDBC

Для того, чтобы вся эта дребедень заработала, надо проинициализировать каждый backend:

CJDBC(admin) > initialize oracle01 force
Virtual Database CJDBC has been successfully initialized from backend oracle01
CJDBC(admin) > initialize oracle02 force
Virtual Database CJDBC has been successfully initialized from backend oracle02

После этого надо стартануть backends:

CJDBC(admin) > enable oracle01
Enabling backend oracle01 from its last known checkpoint
CJDBC(admin) > enable oracle02
Enabling backend oracle02 from its last known checkpoint
CJDBC(admin) >

Всё бы хорошо, но вот на включение backend система посыпала кучу исключений, потому что в примерах были описаны типы не для всех колонок.

Мытарства с описанием RecoveryLog

Скрипя сердцем я взял документацию и стал построчно сравнивать каждый параметр с целью поиска недостающих описаний колонок таблицы. После добавления недостающих колонок и присваивания им соответствующих типов я снова попытался поднять backend и… облом. Оказывается, даже в доках были описаны не все поля и требуемые для них типы. Вспомнив, что Sequoia использует для ведения логов log4j, полез в конфигу log4j.properties, где заменил строчку:
log4j.logger.org.continuent.sequoia.controller.recoverylog=INFO, Console,Filetrace
На следующую:
log4j.logger.org.continuent.sequoia.controller.recoverylog=ALL, Console,Filetrace
Вычислить, для кого нужно было включить логи, было несложно, так как в Stack Trace выплёвываемого исключения было написано, какой класс какого пакета его вызывал.
Это мне сильно помогло, так как в лог стали писаться SQL Statements, используемые backend’ом для создания таблиц Recovery Log. Вот их пример:

2009-08-26 17:21:50,679 DEBUG sequoia.controller.recoverylog Log table create statement: CREATE TABLE RECOVERY (log_id INTEGER NOT NULL ENABLE,vlogin VARCHAR2(32) NOT NULL,sql VARCHAR2(32) NOT NULL,sql_param VARCHAR,auto_conn_tran NUMBER NOT NULL,transaction_id INTEGER NOT NULL,request_id INTEGER,exec_status NUMBER NOT NULL,exec_time INTEGER,update_count NUMBER, CONSTRAINT RECOVERY_PK PRIMARY KEY (log_id))
2009-08-26 17:21:50,681 DEBUG sequoia.controller.recoverylog Checkpoint table create statement: CREATE TABLE CHECKPOINT (name VARCHAR2(64) NOT NULL,log_id INTEGER, CONSTRAINT CHECKPOINT_PK PRIMARY KEY (name))
2009-08-26 17:21:50,682 DEBUG sequoia.controller.recoverylog Backend table create statement: CREATE TABLE BACKEND (database_name VARCHAR2(32) NOT NULL, backend_name VARCHAR2(32) NOT NULL,backend_state INTEGER, checkpoint_name VARCHAR2(32) NOT NULL )
2009-08-26 17:21:50,684 DEBUG sequoia.controller.recoverylog Dump table create statement: CREATE TABLE DUMP (dump_name VARCHAR2(32) NOT NULL,dump_date TIMESTAMP(6),dump_path VARCHAR2(64) NOT NULL,dump_format VARCHAR2(64) NOT NULL,checkpoint_name VARCHAR2(64) NOT NULL,backend_name VARCHAR2(64) NOT NULL,tables VARCHAR2(64) NOT NULL)

Только благодаря этому логу я смог выяснить, почему SQL statement у меня не прошёл (оказывается, ВНЕЗАПНО вылез тип VARCHAR для поля, которое не было описано в доке). Стыдно, господа-разработчики!

Итоговый конфиг???

После мытарств с конфигом я в конце-концов получил следующий конфиг контроллера:

<?xml version="1.0" encoding="UTF-8" ?>
<!DOCTYPE SEQUOIA-CONTROLLER PUBLIC "-//Continuent//DTD SEQUOIA-CONTROLLER 2.10.10//EN"  "http://sequoia.continuent.org/dtds/sequoia-controller-2.10.10.dtd">
<SEQUOIA-CONTROLLER>

  <Controller port="25322">
    <Report hideSensitiveData="true" generateOnShutdown="true" generateOnFatal="true" enableFileLogging="true" />

    <JmxSettings>
      <RmiJmxAdaptor/>
    </JmxSettings>

    <VirtualDatabase configFile="/opt/sequoia/config/virtualdatabase/sequoia.xml" virtualDatabaseName="CJDBC" autoEnableBackends="true" checkpointName="cjdbc_checkpoint" />

  </Controller>
</SEQUOIA-CONTROLLER>

И следующий конфиг виртуальной базы:

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE SEQUOIA PUBLIC "-//Continuent//DTD SEQUOIA 2.10.10//EN" "http://sequoia.continuent.org/dtds/sequoia-2.10.10.dtd">
<SEQUOIA>

  <VirtualDatabase name="CJDBC" maxNbOfConnections="150" minNbOfThreads="40" maxNbOfThreads="150" sqlDumpLength="80" >

    <AuthenticationManager>
      <Admin>
        <User username="admin" password="sql"/>
      </Admin>

      <VirtualUsers>
        <VirtualLogin vLogin="user" vPassword="sql"/>
      </VirtualUsers>
    </AuthenticationManager>

    <!--
        Here is a list (non-exhaustive) of backends that can be used with C-JDBC.
    -->

    <!-- Database # 1 -->
    <DatabaseBackend name="oracle01" driver="oracle.jdbc.OracleDriver" url="jdbc:oracle:thin:@192.168.0.140:1521:oracle" connectionTestStatement="select * from dual">

        <DatabaseSchema dynamicPrecision="table" gatherSystemTables="false" />

        <ConnectionManager vLogin="user" rLogin="cjdbc" rPassword="cjdbc">

                <VariablePoolConnectionManager initPoolSize="10" minPoolSize="5" maxPoolSize="50" idleTimeout="180" waitTimeout="120"/>

        </ConnectionManager>
    </DatabaseBackend>

    <!-- Database # 2 -->
    <DatabaseBackend name="oracle02" driver="oracle.jdbc.OracleDriver" url="jdbc:oracle:thin:@192.168.0.141:1521:oracle" connectionTestStatement="select * from dual">

        <DatabaseSchema dynamicPrecision="table" gatherSystemTables="false" />

        <ConnectionManager vLogin="user" rLogin="cjdbc" rPassword="cjdbc">

                <VariablePoolConnectionManager initPoolSize="10" minPoolSize="5" maxPoolSize="50" idleTimeout="180" waitTimeout="120"/>

        </ConnectionManager>
    </DatabaseBackend>

    <!--
        Request Manager
    -->
    <RequestManager>

        <RequestScheduler>
            <RAIDb-1Scheduler level="passThrough"/>
        </RequestScheduler>

        <RequestCache>

            <MetadataCache maxNbOfMetadata="10000" maxNbOfField="0"/>

            <ParsingCache backgroundParsing="false" maxNbOfEntries="5000"/>

            <ResultCache granularity="table" maxNbOfEntries="100000" pendingTimeout="0" />
        </RequestCache>

        <LoadBalancer>
            <RAIDb-1>
                <WaitForCompletion policy="first"/>

                <RAIDb-1-LeastPendingRequestsFirst/>

            </RAIDb-1>
        </LoadBalancer>

      <RecoveryLog driver="oracle.jdbc.OracleDriver" url="jdbc:oracle:thin:@192.168.0.140:1521:oracle" login="cjdbcrec" password="cjdbcrec">

        <RecoveryLogTable tableName="RECOVERY"
            logIdColumnType="INTEGER NOT NULL ENABLE"
            vloginColumnType="VARCHAR2(64) NOT NULL"
            sqlColumnName="sql"

            sqlColumnType="VARCHAR2(2048) NOT NULL"
            sqlParamColumnType="VARCHAR2(2048)"
            autoConnTranColumnType="VARCHAR2(4) NOT NULL"
            transactionIdColumnType="INTEGER NOT NULL"
            requestIdColumnType="INTEGER"

            execTimeColumnType="INTEGER"
            updateCountColumnType="NUMBER"
            extraStatementDefinition=", CONSTRAINT RECOVERY_PK PRIMARY KEY (log_id)"/>

        <CheckpointTable tableName="CHECKPOINT"

            checkpointNameColumnType="VARCHAR2(128) NOT NULL"
            logIdColumnType="INTEGER"
            extraStatementDefinition=", CONSTRAINT CHECKPOINT_PK PRIMARY KEY (name)"/>

        <BackendTable tableName="BACKEND"

            databaseNameColumnType="VARCHAR2(64) NOT NULL"
            backendNameColumnType="VARCHAR2(128) NOT NULL"
            checkpointNameColumnType="VARCHAR2(128) NOT NULL"/>

        <DumpTable tableName="DUMP"

            dumpNameColumnType="VARCHAR2(64) NOT NULL"
            dumpDateColumnType="TIMESTAMP(6)"
            dumpPathColumnType="VARCHAR2(128) NOT NULL"
            dumpFormatColumnType="CLOB NOT NULL"
            checkpointNameColumnType="VARCHAR(128) NOT NULL"

            backendNameColumnType="VARCHAR2(128) NOT NULL"
            tablesColumnType="VARCHAR2(128) NOT NULL"/>
      </RecoveryLog>
    </RequestManager>
  </VirtualDatabase>

</SEQUOIA>enableFileLogging="true" />
    <JmxSettings>
      <RmiJmxAdaptor/>
    </JmxSettings>

    <VirtualDatabase configFile="/opt/sequoia/config/virtualdatabase/sequoia.xml" virtualDatabaseName="CJDBC" autoEnableBackends="true" checkpointName="cjdbc_checkpoint" />

  </Controller>
</SEQUOIA-CONTROLLER>

Добившись, наконец, того, что система создавала таблицы (важно — искомые типы полей брались по спецификации из доков и примеров) и запускала оба backend, я решился прогнать тест.

Пока ещё не краш-тест

Вставка данных прошла, но вот контроллер снова высыпал кучу исключений. Я искренне удивился, когда увидел, что он пытается вставлять null-значения в not-nullable колонки. Помимо этого, названия таблиц и колонка ‘log’ были такими же, что и функции ORACLE, то есть, пришлось всё это переименовывать, в результате чего я получил-таки финальную версию конфиги для RecoveryLog:

        <RecoveryLogTable tableName="T_RECOVERY"
            logIdColumnType="INTEGER NOT NULL ENABLE"
            vloginColumnType="VARCHAR2(64) NOT NULL"
            sqlColumnName="sql_query"

            sqlColumnType="VARCHAR2(2048) NOT NULL"
            sqlParamColumnType="VARCHAR2(2048)"
            autoConnTranColumnType="VARCHAR2(4) NOT NULL"
            transactionIdColumnType="INTEGER NOT NULL"
            requestIdColumnType="INTEGER"

            execTimeColumnType="INTEGER"
            updateCountColumnType="NUMBER"
            extraStatementDefinition=", CONSTRAINT RECOVERY_PK PRIMARY KEY (log_id)"/>

        <CheckpointTable tableName="T_CHECKPOINT"

            checkpointNameColumnType="VARCHAR2(128) NOT NULL"
            logIdColumnType="INTEGER"
            extraStatementDefinition=", CONSTRAINT CHECKPOINT_PK PRIMARY KEY (name)"/>

        <BackendTable tableName="T_BACKEND"

            databaseNameColumnType="VARCHAR2(64) NOT NULL"
            backendNameColumnType="VARCHAR2(128) NOT NULL"
            checkpointNameColumnType="VARCHAR2(128)"/>

        <DumpTable tableName="T_DUMP"

            dumpNameColumnType="VARCHAR2(64) NOT NULL"
            dumpDateColumnType="TIMESTAMP(6)"
            dumpPathColumnType="VARCHAR2(128) NOT NULL"
            dumpFormatColumnType="CLOB NOT NULL"
            checkpointNameColumnType="VARCHAR(128) NOT NULL"

            backendNameColumnType="VARCHAR2(128) NOT NULL"
            tablesColumnType="VARCHAR2(128) NOT NULL"/>

Думаете, это было последняя битва с Recovery Log? Ошибаетесь! При попытке вставить в таблицу контроллер продолжал стабильно сыпать исключения такого вида:

2009-08-26 17:59:53,394 ERROR sequoia.controller.recoverylog Failed to log begin for transaction 0
java.sql.SQLException: ORA-00911: invalid character

        at oracle.jdbc.driver.DatabaseError.throwSqlException(DatabaseError.java:112)
        at oracle.jdbc.driver.T4CTTIoer.processError(T4CTTIoer.java:331)
        at oracle.jdbc.driver.T4CTTIoer.processError(T4CTTIoer.java:288)
        at oracle.jdbc.driver.T4C8Oall.receive(T4C8Oall.java:743)
        at oracle.jdbc.driver.T4CPreparedStatement.doOall8(T4CPreparedStatement.java:216)
        at oracle.jdbc.driver.T4CPreparedStatement.executeForRows(T4CPreparedStatement.java:955)
        at oracle.jdbc.driver.OracleStatement.doExecuteWithTimeout(OracleStatement.java:1168)
        at oracle.jdbc.driver.OraclePreparedStatement.executeInternal(OraclePreparedStatement.java:3285)
        at oracle.jdbc.driver.OraclePreparedStatement.executeUpdate(OraclePreparedStatement.java:3368)
        at org.continuent.sequoia.controller.recoverylog.events.LogRequestEvent.execute(LogRequestEvent.java:104)
        at org.continuent.sequoia.controller.recoverylog.LoggerThread.run(LoggerThread.java:678)

Вот вам и опровержение абзаца из мануала:

Users reported successful usage of Sequoia with the following RDBMS: Oracle®, PostgreSQL, MySQL, Apache Derby, IBM DB2®, Sybase®, SAP DB (MySQL MaxDB), HyperSonic SQL, Firebird, MS SQL Server and InstantDB.

В общем, Google помог слабо, нашёл один хиленький баг-тред, из которого вынес только то, что для достижения совместимости с ORACLE придётся патчить исходники.

Резюме

Проковырявшись с настройками RecoveryLog целый рабочий день, я так и не смог до конца заставить его работать. Видать, разработчики очень плохо тестировали свой продукт на СУБД ORACLE. Что самое обидное, в сети по возникающим проблемам с Sequoia найти ответ на свой вопрос очень тяжело.
В следующей части я опишу процесс сборки Sequoia и её краш-тест.

]]> http://sadko.xskernel.org/archives/1379/feed 0